Intel锐炫B580换用XeStrata引擎 125B模型推理提速近3倍

据快科技10月27日报道，Intel锐炫B580 12GB显卡在运行1250亿参数AI模型时，改用开源推理引擎XeStrata后，生成速度达到每秒31.1 tokens；而使用原版Strata时为每秒10.9 tokens，前后相差近3倍，测试过程中并未更换硬件。

此次测试由PC Watch完成，使用华擎B580挑战者12GB OC显卡，搭配酷睿Ultra 5 250KF Plus处理器与64GB DDR5内存，系统为Ubuntu 26.04 LTS。测试模型为Qwen3.8-Flash-Next，采用IQ3_S量化、64K上下文和8位KV缓存。

由于12GB显存无法容纳完整的125B模型，Strata与XeStrata均支持同时调用GPU和系统内存。按本次量化配置，模型运行约需50GB系统内存，因此64GB内存是测试能够跑通的前提。

XeStrata是Strata的衍生分支，针对所支持的GPU架构进行了额外优化，其中一项是用Intel GPU的XMX矩阵硬件承担部分运算。对比测试使用Strata 0.2.1与XeStrata 0.1.43-2 Ubuntu包，在同一模型、同一配置下进行。

PC Watch指出，速度差异具体来自哪一项优化，无法逐一确认。该结果仅是同一台电脑上两套软件配置的对比，不能说明某项技术贡献了全部提升。测试也只覆盖文本生成吞吐量，不代表提示词处理、响应延迟或模型精度有同等幅度的改善。

31.1 tokens/s的生成速度虽然可观，但运行大模型仍然吃力。PC Watch认为，B580难以承担更重的智能体类工作负载，这类场景需要更强的GPU、更多显存和更长的上下文窗口。

同一硬件上更换一套推理引擎，生成速度即出现明显差距。对于在本地运行大语言模型的用户而言，软件选择与显存、系统内存同样重要。

常见问题

锐炫B580换了什么软件后跑AI速度快了3倍？

是把开源推理引擎从原版Strata换成XeStrata。在运行1250亿参数AI模型时，XeStrata达到每秒31.1 tokens，而原版Strata为每秒10.9 tokens，速度快近3倍，且没有更换硬件。

测试使用华擎B580挑战者12GB OC显卡，搭配酷睿Ultra 5 250KF Plus处理器和64GB DDR5内存，系统为Ubuntu 26.04 LTS；模型为Qwen3.8-Flash-Next，采用IQ3_S量化、64K上下文和8位KV缓存。XeStrata是Strata的衍生分支，针对支持的GPU架构做了额外优化，包括用Intel GPU的XMX矩阵硬件跑部分运算。

12GB显存的显卡怎么跑得动1250亿参数模型？

靠同时调用显卡显存和系统内存。12GB显存装不下整个125B模型，Strata和XeStrata都支持同时调用GPU和系统内存，本次量化配置需要约50GB系统内存，因此64GB内存是能跑通的前提。

也就是说，本地跑大模型不只看显存，系统内存同样是硬性条件。

这个快3倍的测试结果有什么需要注意的地方？

测试方指出，速度差异中多少来自哪一项优化无法逐一确认，结果只是同一台电脑上两套软件配置的对比，不能说明某项技术贡献了全部提升。测试也只涉及文本生成吞吐量，不代表提示词处理、响应延迟或模型精度也有同等提升。

另外，31.1 tokens/s虽然可观，但运行大模型依然吃力，PC Watch认为B580扛不住更重的智能体类工作负载，这类场景需要更强GPU、更多显存和更长上下文窗口。