贝有科技
文章 / 研究/ForgeKernel 交互科普

面壁智能 · ForgeKernel · 2026.10.30

芯片没换,
AI 先来重排
算力车间。

ForgeKernel 是面壁智能的算子生成与优化系统。像一位会写程序、会看实验结果的工艺师,它试着把同一块芯片用得更好。

01 芯片车间

灶台够猛,材料却还在路上。

左边是显存仓库,中间是计算阵列,右边收集结果。橙色小方块代表数据:运到计算单元,它才能开工。芯片忙不忙,既看火力,也看搬运和排班。

算子锻造车间 / THREE.JS
数据搬运计算 / 合格原理示意 · 非实测仿真

看数据走一趟:显存 → 计算单元 → 结果。数据来不及送达时,计算单元就可能等待。

拖动场景换个角度;暂停后也能观察结构。

先给答案数学任务 + 硬件约束→AI 生成、测试、改写内核→让已有芯片发挥更多性能

买了性能很强的芯片,为什么模型还是跑得不够快?这有点像给工厂买了新机器,却发现工人一直在搬材料、等上一道工序,机器反而没怎么干活。

面壁智能最近展示的 ForgeKernel,瞄准的正是这类问题:让 AI 参与编写和反复优化芯片上的底层计算程序,把已有硬件更有效地用起来。它值得关注的地方,是 AI 开始帮助改进支撑 AI 自身运行的软件。但这与“AI 已经全面超越工程师”,中间还隔着很长的验证链条。

先看动画 / 98 秒建立直觉

同一块铁,
换一种锻法。

芯片的峰值像灶台火力,实际出餐还要看备料、搬运和排班。看完动画,再往下拆开 DeepSeek 的直播案例。

1 分 38 秒动画导读 · 贝有制作,非官方直播录像。视频中的性能数字应结合下文的硬件、任务与测试范围理解。直接打开视频
不方便看视频?阅读文字导读

同一块芯片,程序组织方式会影响实际速度。ForgeKernel 让 AI 在生成、测试和修改中优化计算内核。直播案例针对 DeepSeek 的 Prefill 环节;单个内核约 1.10 倍性能,不等于整个模型快 10%。详细证据和政策意义见下文。

一、算子是什么?先走进一间“计算厨房”

把大模型想成一家接单的餐厅:用户的问题是一张订单,模型结构规定菜怎么做,芯片是灶台。矩阵乘法、归一化、注意力等计算,则是切菜、翻炒、调味这样的基本工序。

“算子”描述要做什么计算;kernel(计算内核)是把这些计算落实到具体硬件上的程序。日常讨论常把两者合称“算子”,但同一道计算题,可以有多种硬件实现。

菜谱相同,厨房的速度仍可能差很多。材料是否提前备好?相邻工序能否合并?多个灶眼能否同时工作?对应到芯片,就是数据搬运、存储安排、计算并行和指令调度。优化内核,通常希望在规定的数值误差范围内得到相同结果,同时减少耗时或资源消耗。

这也是为什么“芯片峰值算力”不等于“应用实际速度”。峰值像灶台的最大火力;实际出餐速度,还要看整间厨房如何协作。

二、ForgeKernel 做什么?把写代码变成一轮轮实验

据面壁智能及 OpenBMB 的公开介绍,ForgeKernel 是一个 AI 算子生成与优化系统。理解它时,与其想象“一句提示词变出最快程序”,不如想象一位会写程序、也会看实验结果的工艺师。

官方开源说明展示了这样的工作方式:先研究参照程序的硬件行为,形成优化方案,再由编程智能体实施、检查正确性并计时。新实现通过验收后,还可以成为下一轮参照。硬件探针验证过的经验,则保存在知识库中,供后续任务使用。来源:官方中文说明

这套系统仍需调用基础模型和编程工具,并非面壁重新训练了一颗专门“懂所有芯片”的大脑。它更像把工程经验、工具和验收流程组织成了一间可以持续试验的车间。

这条链上,每个环节都很重要。代码能编译,不代表答案正确;答案正确,不代表速度更快;一组输入更快,也不代表所有输入都更快。失败的候选程序,往往正是优化过程的一部分。

因此,系统价值不能只看“写了多少行代码”,还要看它能否用可承受的试验成本,稳定找到可验证、可维护的改进。

三、直播案例:给 DeepSeek 的“读题环节”改工艺

这次最具体的例子,是面壁智能公布的 10 月 29 日直播:让 ForgeKernel 针对 DeepSeek-V4.1 的真实推理负载,现场完成算子生成、编译和跑分,与 DeepSeek 开源的 FlashMLA Prefill 实现比较。

先拆开这个名字。FlashMLA 是 DeepSeek 的高性能注意力内核库。Prefill 则是模型处理输入上下文的阶段:在开始逐步生成回答之前,先把用户的问题、文档和历史对话“读进去”,并建立后续计算要使用的状态。把随后逐字生成答案比作答题,prefill 就有点像读题和整理材料。

注意力计算帮助模型建立不同位置之间的联系。输入较长时,这个环节可能成为重要开销,但它在总耗时中的占比会随模型、输入长度、并发量和部署方式变化。

这场演示的看点,是把 AI 放到一张具体的工程考卷前:面对明确的计算任务和硬件条件,它能否生成正确实现,并通过测量继续改进?现在已有可查看的产物:官方开源仓库列出了直播后生成的 DeepSeek-V4.1 融合稀疏注意力 Prefill 内核,使用 CUDA C++,在 NVIDIA B200 上标注为 FlashMLA 的约 1.10 倍性能。来源:官方内核目录及测试说明

这个结果可以理解为:在对应测试条件下,原先约 110 份时间完成的工作,现在约 100 份时间完成。它是约 10% 的速度提升,对应约 9.1% 的耗时下降,二者分母不同。这里引用的是项目方公布的结果,本文未在 B200 上独立复测。读者可以通过直播看板和开源代码继续核对。

对这一结果,准确的理解应当是:在该硬件、软件版本、输入形状、精度要求和计时方法下,这份实现更快。它并不自动意味着 DeepSeek 整个模型同幅度提速,更不意味着在另一类芯片上也能复制同一结果。

想把这个案例从热闹变成证据,需要同时看四件事:算得对不对;和哪个版本相比;哪些输入更快、哪些更慢;为了找到这个结果,花了多少时间和算力。

四、局部快一倍,整车会快一倍吗?

不会。用一个纯粹的教学假设算一笔账:某次任务总耗时 100 毫秒,其中目标内核占 30 毫秒,其他环节占 70 毫秒。如果内核加速到原来的两倍,它的耗时降为 15 毫秒,总耗时便是 85 毫秒。

整体速度约为原来的 1.18 倍,而不是两倍。这不是 ForgeKernel 的实测数据,只是说明局部优化如何影响全局。若瓶颈在通信、排队或数据读取上,内核的改进还可能被其他等待抵消。

同样,运行时间下降也不能直接换算成同比例节电或成本下降。电力、利用率、服务负载、试验成本与运维投入,都需要另外测量。

动手算一笔账 · 教学假设,非产品实测

这道工序更快,整间车间能快多少?

设原任务耗时 100 毫秒。调整目标内核占比和加速倍数,观察整体变化。

优化前
100 ms
优化后
85.0 ms

整体约 1.18 倍速度,耗时减少 15.0%。

计算:70 + 30 ÷ 2.0 = 85.0 毫秒。蓝:目标内核;灰:其他环节。假设其他耗时不变,未计入额外接入成本。

五、为什么科技政策制定者值得关注?

第一,算力建设的产出,既取决于设备,也取决于软件工程能力。采购清单容易统计,设备实际被用得好不好更难衡量。此类工具提示我们,应同时关注适配效率、真实业务吞吐量、服务延迟和单位任务成本,而不只关注芯片数量与峰值指标。

第二,跨硬件适配可能获得新的工具。不同芯片像布局不同的厨房,同一道菜往往需要重新安排工序。自动生成与优化若能稳定工作,有望减少部分重复劳动,缩短新模型适配时间。但同一系统能服务多种硬件,不代表同一份代码无需修改就能处处高效运行;编译器、开发工具和工程人员仍然重要。

第三,公共评测基础设施可能比单个“冠军成绩”更有长期价值。可复现的任务、明确的数值误差标准、公开的版本和失败样本,可以帮助企业判断工具到底适不适合自己,也让公共资金支持的成果更容易比较和验收。

若考虑试点,适合先选择一个真实、边界清晰的负载,在同等精度和服务质量下比较优化前后表现,并把生成、测试、接入、维护的投入一起计入。试点应允许得出“该场景收益有限”的结论;这同样是有价值的证据。

六、让工程师少搬砖,也让验收更具体

ForgeKernel 所代表的方向,是把一部分依赖专家反复尝试的底层优化,交给 AI 参与搜索和实验。它可能让工程师把更多精力放在任务定义、系统瓶颈、正确性与上线质量上,但单次演示无法证明岗位已经可以被整体替代。

目前也不宜把“程序在反馈中持续改进”直接解释成没有边界的自我进化。它首先是一个有任务、有评价标准、有资源约束的工程优化问题。

对于政策制定者,最值得带走的问题是:在同样的资源投入下,这类工具能否让更多真实应用跑得更稳、更快、更经济?答案应由可复现的实验和实际部署给出。

工艺师是否优秀,最终看合格产品怎样走出车间。AI 写算子,也应接受同样具体的检验。

七、开源之后,还要看什么?

开源让外界有了检查实现和复现实验的入口,也使这个话题从一次演示走向可验证的软件。不过,官方仓库同样写明:已有参照实现时效果更可靠;优化停止不代表数学上已经达到最优;一次运行可能需要数小时 GPU 时间和前沿模型调用。公开工具的实验覆盖也不能直接推广到所有芯片。来源:官方限制说明

对于国产算力,相关评测成绩说明团队已经在探索不同硬件生态;这与“所有国产芯片都已支持”“无需适配即可部署”是不同层次的结论。政策支持可以关注通用工具、公共测试集、编译器生态和人才训练,并通过真实业务的对照试点检验收益。不要用一次榜单名次代替采购验收,也不应因为收益尚有边界,就忽略软件提效的价值。

资料与阅读路径

  1. ForgeKernel 官方中文说明:系统机制、使用条件及限制。
  2. 官方生成内核目录:DeepSeek-V4.1 Prefill 及其他算子的比较对象、硬件与环境。
  3. ForgeKernel 直播看板与直播入口:观察迭代过程;外部平台访问条件可能不同。
  4. DeepSeek 官方 FlashMLA:理解比较对象及支持范围。
  5. 面壁智能直播预告:确认 10 月 29 日直播任务与时间。

本文按 2026 年 10 月 30 日可访问的官方资料整理。产品方测试与贝有的解释分别标明;交互实验采用教学假设,不是产品跑分。动画由贝有提供,为科普演绎,非官方直播录像。