贝有科技
文章 / 研究/交互研究

KIMI K3 · 官方技术报告通俗拆解

2.8 万亿参数,
为什么不让它们
一起上班?

不背术语。我们动手做五个实验,看 K3 怎样读长材料、调专家、保存工作现场,以及它到底强到哪一步。

先做一道送分题拖动红色推杆
16/ 896 位路由专家同时开会
16 位896 位
✓ K3 的做法先分诊,再让相关专家上班

官方数字:896 个路由专家,每个 token 激活 16 个。

2.8T 总参数104B 激活参数1M 上下文原生 视觉能力
不要先问“它有多大”先看信息怎么走

实验 01 / 长材料

读一份很长的材料,
每一步都要从头看吗?

两种读法跑一遍。红色格子越多,代表这一步回看的内容越多。

材料传送带 · 第 1 / 24第 1 步:KDA 向前读
项目申报材料前文规定资金用途后文列出验收条件附件补充三项例外最后形成审核意见归档
眼前这一步看附近 4 格
一路带着走更新“行车便签”
官方结构3 × KDA + 1 × MLA

像平时沿省道前进,每走三段,再用卫星地图校准一次全局。

对应报告原文依据

官方报告第 2.1 节:K3 的 Hybrid Attention 采用 3 层 KDA 配 1 层 Gated MLA,最后一层一定进行全局注意力。

实验 02 / 深层传递

一句原话传六层,
最后还剩多少?

选一份卷宗,让“层层传话”和“直接查原件”同时工作。

普通残差:层层转述AttnRes:按需查原件
6

等待上一层…

5

等待上一层…

4

等待上一层…

3

等待上一层…

2

等待上一层…

1

专项资金须经复核后拨付

6

尚未处理

5

尚未处理

4

尚未处理

3

尚未处理

2

尚未处理

1

专项资金须经复核后拨付

卷宗 A · 原始卷宗专项资金须经复核后拨付

AttnRes 不是让每层记性更神,而是允许当前层回头选择早期信息,少靠“二手转述”。

对应报告原文依据

官方报告第 2.2 节:Attention Residuals 让当前层对更早的层表示做选择性检索,并通过分块设计控制开销。

实验 03 / 专家分诊

896 位专家,
该叫谁来开会?

选一项任务。Three.js 分诊台会按任务重新点亮 16 位专家。

MOE DISPATCH · 28 × 32 = 896界面、代码、调试等专家被叫来
正在装配 896 位专家的三维分诊台…
路由专家总数896
本词激活16
激活占比约 1.8%

像医院分诊:全科先接诊,再叫相关科室会诊。任务一换,上班的人也跟着换。

对应报告原文依据

官方报告第 2.3 节:K3 设有 896 个 routed experts,每个 token 激活 16 个。全模型 2.8T 总参数,推理时约 104B 参数被激活。

实验 04 / 长任务

干到一半断线,
回来还认得工作台吗?

运行任务后点“模拟断线”。再恢复时,看它从头来,还是接着做。

可恢复工作台 · 任务编号 K3-R-042等待启动
1
拆任务

把“研究 AI 芯片”拆成资料、数据、代码和报告

2
找资料

搜索论文、企业信息和公开数据

3
做分析

在沙箱里清洗数据并运行脚本

4
查错误

发现年份口径不一致,回到来源重新核对

5
交结果

整理成有来源、有图表的研究初稿

沙箱里的东西0 / 5 项已写入

真正的智能体训练,要把“计划—行动—观察—验证—调整”一整条链练出来。

对应报告原文依据

官方报告第 5.3 节:系统保存外部 KV cache 和可恢复的 microVM 沙箱状态,长 rollout 可以暂停后续接;第 4 章介绍多领域智能体强化学习。

实验 05 / 成绩单

有的项目第一,
能不能简称“全面第一”?

不能。榜单测的是不同科目,名次也不能混在一起平均。点开看各科,再下结论。

WebDev Arena1199 个模型
领先
K3
靠后
官方报告所列分数1678

网页开发是 K3 最突出的公开成绩,官方报告统计时位列第一。

官方报告的总判断进入第一梯队,但整体仍落后于 Claude Fable 5 和 GPT-5.6 Sol。

局部冠军值得肯定;把局部冠军说成全面超过所有顶尖模型,就不客观了。

对应报告原文依据

官方报告表 5:WebDev Arena #1/199、Vals Index #2/39、AA Intelligence Index #4/580、Text Arena #8/200、Agent Arena #4/37。

最后,把 47 页报告压成一句人话

K3 更像一个能连续干活的“智能办事员”, 还不是替人拍板的“责任人”。

适合交给模型检索 · 归纳 · 起草 · 执行
必须由人负责授权 · 核验 · 判断 · 签字

它的进步,主要体现在能把复杂工作持续往前推;这不等于它说的每句话都正确,也不等于责任可以交给模型。