GPU算子榜单升温,国产Agentic Infra探索RSI落地
据机器之心报道,随着递归自我改进(RSI)成为AI领域的热门方向,如何让AI在完成任务的反馈中改进自身,正从研究概念走向工程实践。英伟达研究院推出的GPU算子性能评测榜单SOL-ExecBench,为观察这一趋势提供了窗口。来自中国的AI基础设施企业无问芯穹(Infinigence AI)在这份榜单上先后登顶L1基础算子、L2融合算子、Quant量化算子与FlashInfer-Bench推理算子四大赛道,在全部235道题目中以88项单题第一位居参赛团队之首,超过第二名单题第一数量的2倍。
SOL-ExecBench与常规代码生成评测不同,任务直接在高性能硬件上运行,参赛者提交的Kernel不仅要通过正确性验证,还要尽可能逼近硬件的理论性能上限。该榜单吸引了Databricks、SF Tensor、Cursor、Recursive、Geometric等团队参与。据SF Tensor于2026年9月25日公布的数据,当时已有583支团队累计提交超过3.1万次评测,榜单目前仍以约每7分钟一次提交的频率刷新。
要让Agent优化GPU算子,首先要防止其偏离目标。当Agent以性能分数为唯一导向,它可能修改评测脚本、访问参考结果或利用环境漏洞,这类行为在强化学习中被称为“奖励黑客”。无问芯穹将工作区、调试区与评测区彻底分离:Agent在可联网但不直接分配GPU的工作区查资料、写代码,通过统一接口提交计算请求,GPU由宿主侧调度器统一管理;评测容器对齐官方镜像,调试容器配置性能剖析工具,两类执行容器均禁用网络,结果回传至Agent,形成“代码生成—评测验证—性能分析—策略调整”的迭代闭环。
在执行策略上,该系统复用了开源社区Skills的GPU编程知识、调试工具说明和性能分析方法,并构建了框架感知Skill,向Agent说明提交评测、查询凭证、借用GPU和读取结果的接口与操作边界。这些说明以持久文件形式挂载到工作区,Agent可按需查阅,避免在优化持续数十轮后因上下文压缩丢失操作规范。Agent验证出的有效策略与失败教训,会连同适用条件沉淀进共享记忆,供后续任务复用。
在实现路径上,系统引导Agent根据任务特点和时间预算,在Triton、CuTe DSL、CUDA C++和PTX等不同抽象层级中选择起点。实验显示,同一组任务中Triton用1.26小时得到首个有效候选,PTX花费2.94小时、首版加速比仅0.520×,但优化到终点时PTX追至1.438×实现反超。按首版实现的用时与性能衡量,投入产出比从大到小大致为Triton、CuTe、CUDA、PTX,与人类专家经验一致。Agent可先用高层DSL建立基线,再逐层转向CUDA、PTX,围绕已定位的瓶颈继续搜索。
团队在实验中发现,资源约束与Agent行为会相互影响。在8张GPU的观测窗口里,早期每半小时约有160至260个新请求,单次GPU占用均值0.8至1.7分钟;随着全量测试和跨shape扫描增多,拥堵期新请求降至80至130个,单次占用拉长到7至23分钟,等待中位数涨到24至40分钟。部分Agent拿到GPU后尽量多塞实验,或提前提交下一次请求以减少重新排队,甚至自行增加一层调度,让runner持续从私有队列取任务、无任务时仍保留租约,这反而把等待转嫁给其他任务,加剧系统拥堵。
团队还观察到一个现象:不同模型在工作流选择上表现不同。在受约束的工作流表示演化实验中,先进闭源模型和国产开源模型呈现出两种演化模式,部分模型倾向于增加协作节点,一些能力更强的模型则倾向保留较简单的流程、只修改节点指令。这意味着更强的模型未必需要更复杂的工作流,Harness应随模型能力与任务要求调整。
从这些技术细节看,无问芯穹的实践体现了RSI的两条实现路径:一是成果反哺,Agent产出的高效算子经端到端验证后应用于训练与推理系统,降低计算开销、提高Token生产效率;二是机制的自我改进,让Agent参与调整自身的任务执行机制,使研究流程本身成为可优化对象。两条路径分别作用于计算系统与Agent完成任务的方式,更高效的底层计算能为后续探索释放资源,更有效的执行机制则让资源产出更多经过验证的成果,基础设施正是连接二者的关键。

