买了性能很强的芯片,为什么模型还是跑得不够快?这有点像给工厂买了新机器,却发现工人一直在搬材料、等上一道工序,机器反而没怎么干活。
面壁智能最近展示的 ForgeKernel,瞄准的正是这类问题:让 AI 参与编写和反复优化芯片上的底层计算程序,把已有硬件更有效地用起来。它值得关注的地方,是 AI 开始帮助改进支撑 AI 自身运行的软件。但这与“AI 已经全面超越工程师”,中间还隔着很长的验证链条。
先看动画 / 98 秒建立直觉
同一块铁,
换一种锻法。
芯片的峰值像灶台火力,实际出餐还要看备料、搬运和排班。看完动画,再往下拆开 DeepSeek 的直播案例。
不方便看视频?阅读文字导读
同一块芯片,程序组织方式会影响实际速度。ForgeKernel 让 AI 在生成、测试和修改中优化计算内核。直播案例针对 DeepSeek 的 Prefill 环节;单个内核约 1.10 倍性能,不等于整个模型快 10%。详细证据和政策意义见下文。
一、算子是什么?先走进一间“计算厨房”
把大模型想成一家接单的餐厅:用户的问题是一张订单,模型结构规定菜怎么做,芯片是灶台。矩阵乘法、归一化、注意力等计算,则是切菜、翻炒、调味这样的基本工序。
“算子”描述要做什么计算;kernel(计算内核)是把这些计算落实到具体硬件上的程序。日常讨论常把两者合称“算子”,但同一道计算题,可以有多种硬件实现。
菜谱相同,厨房的速度仍可能差很多。材料是否提前备好?相邻工序能否合并?多个灶眼能否同时工作?对应到芯片,就是数据搬运、存储安排、计算并行和指令调度。优化内核,通常希望在规定的数值误差范围内得到相同结果,同时减少耗时或资源消耗。
这也是为什么“芯片峰值算力”不等于“应用实际速度”。峰值像灶台的最大火力;实际出餐速度,还要看整间厨房如何协作。
二、ForgeKernel 做什么?把写代码变成一轮轮实验
据面壁智能及 OpenBMB 的公开介绍,ForgeKernel 是一个 AI 算子生成与优化系统。理解它时,与其想象“一句提示词变出最快程序”,不如想象一位会写程序、也会看实验结果的工艺师。
官方开源说明展示了这样的工作方式:先研究参照程序的硬件行为,形成优化方案,再由编程智能体实施、检查正确性并计时。新实现通过验收后,还可以成为下一轮参照。硬件探针验证过的经验,则保存在知识库中,供后续任务使用。来源:官方中文说明
这套系统仍需调用基础模型和编程工具,并非面壁重新训练了一颗专门“懂所有芯片”的大脑。它更像把工程经验、工具和验收流程组织成了一间可以持续试验的车间。
这条链上,每个环节都很重要。代码能编译,不代表答案正确;答案正确,不代表速度更快;一组输入更快,也不代表所有输入都更快。失败的候选程序,往往正是优化过程的一部分。
因此,系统价值不能只看“写了多少行代码”,还要看它能否用可承受的试验成本,稳定找到可验证、可维护的改进。
三、直播案例:给 DeepSeek 的“读题环节”改工艺
这次最具体的例子,是面壁智能公布的 10 月 29 日直播:让 ForgeKernel 针对 DeepSeek-V4.1 的真实推理负载,现场完成算子生成、编译和跑分,与 DeepSeek 开源的 FlashMLA Prefill 实现比较。
先拆开这个名字。FlashMLA 是 DeepSeek 的高性能注意力内核库。Prefill 则是模型处理输入上下文的阶段:在开始逐步生成回答之前,先把用户的问题、文档和历史对话“读进去”,并建立后续计算要使用的状态。把随后逐字生成答案比作答题,prefill 就有点像读题和整理材料。
注意力计算帮助模型建立不同位置之间的联系。输入较长时,这个环节可能成为重要开销,但它在总耗时中的占比会随模型、输入长度、并发量和部署方式变化。
这场演示的看点,是把 AI 放到一张具体的工程考卷前:面对明确的计算任务和硬件条件,它能否生成正确实现,并通过测量继续改进?现在已有可查看的产物:官方开源仓库列出了直播后生成的 DeepSeek-V4.1 融合稀疏注意力 Prefill 内核,使用 CUDA C++,在 NVIDIA B200 上标注为 FlashMLA 的约 1.10 倍性能。来源:官方内核目录及测试说明
这个结果可以理解为:在对应测试条件下,原先约 110 份时间完成的工作,现在约 100 份时间完成。它是约 10% 的速度提升,对应约 9.1% 的耗时下降,二者分母不同。这里引用的是项目方公布的结果,本文未在 B200 上独立复测。读者可以通过直播看板和开源代码继续核对。
对这一结果,准确的理解应当是:在该硬件、软件版本、输入形状、精度要求和计时方法下,这份实现更快。它并不自动意味着 DeepSeek 整个模型同幅度提速,更不意味着在另一类芯片上也能复制同一结果。
想把这个案例从热闹变成证据,需要同时看四件事:算得对不对;和哪个版本相比;哪些输入更快、哪些更慢;为了找到这个结果,花了多少时间和算力。
四、局部快一倍,整车会快一倍吗?
不会。用一个纯粹的教学假设算一笔账:某次任务总耗时 100 毫秒,其中目标内核占 30 毫秒,其他环节占 70 毫秒。如果内核加速到原来的两倍,它的耗时降为 15 毫秒,总耗时便是 85 毫秒。
整体速度约为原来的 1.18 倍,而不是两倍。这不是 ForgeKernel 的实测数据,只是说明局部优化如何影响全局。若瓶颈在通信、排队或数据读取上,内核的改进还可能被其他等待抵消。
同样,运行时间下降也不能直接换算成同比例节电或成本下降。电力、利用率、服务负载、试验成本与运维投入,都需要另外测量。
这道工序更快,整间车间能快多少?
设原任务耗时 100 毫秒。调整目标内核占比和加速倍数,观察整体变化。
整体约 1.18 倍速度,耗时减少 15.0%。
计算:70 + 30 ÷ 2.0 = 85.0 毫秒。蓝:目标内核;灰:其他环节。假设其他耗时不变,未计入额外接入成本。
五、为什么科技政策制定者值得关注?
第一,算力建设的产出,既取决于设备,也取决于软件工程能力。采购清单容易统计,设备实际被用得好不好更难衡量。此类工具提示我们,应同时关注适配效率、真实业务吞吐量、服务延迟和单位任务成本,而不只关注芯片数量与峰值指标。
第二,跨硬件适配可能获得新的工具。不同芯片像布局不同的厨房,同一道菜往往需要重新安排工序。自动生成与优化若能稳定工作,有望减少部分重复劳动,缩短新模型适配时间。但同一系统能服务多种硬件,不代表同一份代码无需修改就能处处高效运行;编译器、开发工具和工程人员仍然重要。
第三,公共评测基础设施可能比单个“冠军成绩”更有长期价值。可复现的任务、明确的数值误差标准、公开的版本和失败样本,可以帮助企业判断工具到底适不适合自己,也让公共资金支持的成果更容易比较和验收。
若考虑试点,适合先选择一个真实、边界清晰的负载,在同等精度和服务质量下比较优化前后表现,并把生成、测试、接入、维护的投入一起计入。试点应允许得出“该场景收益有限”的结论;这同样是有价值的证据。
六、让工程师少搬砖,也让验收更具体
ForgeKernel 所代表的方向,是把一部分依赖专家反复尝试的底层优化,交给 AI 参与搜索和实验。它可能让工程师把更多精力放在任务定义、系统瓶颈、正确性与上线质量上,但单次演示无法证明岗位已经可以被整体替代。
目前也不宜把“程序在反馈中持续改进”直接解释成没有边界的自我进化。它首先是一个有任务、有评价标准、有资源约束的工程优化问题。
对于政策制定者,最值得带走的问题是:在同样的资源投入下,这类工具能否让更多真实应用跑得更稳、更快、更经济?答案应由可复现的实验和实际部署给出。
工艺师是否优秀,最终看合格产品怎样走出车间。AI 写算子,也应接受同样具体的检验。
七、开源之后,还要看什么?
开源让外界有了检查实现和复现实验的入口,也使这个话题从一次演示走向可验证的软件。不过,官方仓库同样写明:已有参照实现时效果更可靠;优化停止不代表数学上已经达到最优;一次运行可能需要数小时 GPU 时间和前沿模型调用。公开工具的实验覆盖也不能直接推广到所有芯片。来源:官方限制说明
对于国产算力,相关评测成绩说明团队已经在探索不同硬件生态;这与“所有国产芯片都已支持”“无需适配即可部署”是不同层次的结论。政策支持可以关注通用工具、公共测试集、编译器生态和人才训练,并通过真实业务的对照试点检验收益。不要用一次榜单名次代替采购验收,也不应因为收益尚有边界,就忽略软件提效的价值。
资料与阅读路径
- ForgeKernel 官方中文说明:系统机制、使用条件及限制。
- 官方生成内核目录:DeepSeek-V4.1 Prefill 及其他算子的比较对象、硬件与环境。
- ForgeKernel 直播看板与直播入口:观察迭代过程;外部平台访问条件可能不同。
- DeepSeek 官方 FlashMLA:理解比较对象及支持范围。
- 面壁智能直播预告:确认 10 月 29 日直播任务与时间。
本文按 2026 年 10 月 30 日可访问的官方资料整理。产品方测试与贝有的解释分别标明;交互实验采用教学假设,不是产品跑分。动画由贝有提供,为科普演绎,非官方直播录像。