字节被曝训10万亿参数大模型:张一鸣拒绝蒸馏,赌的是什么

字节被曝训10万亿参数大模型:张一鸣拒绝蒸馏,赌的是什么

8月7日,英国《金融时报》援引三名知情人士报道,字节跳动正在训练一个参数量最高可达10万亿的超大AI模型,目前处于早期阶段。这一规模比迄今为止中国已发布的最大模型、月之暗面Kimi K3还要大三倍多,接近Anthropic最先进系统的量级。值得注意的是,就在前一晚,晚点LatePost的独家报道给出的数字还是”超5万亿”——不到24小时,外界对这个模型体量的估计翻了一倍。

一、10万亿参数是什么概念

先把坐标系摆清楚。当前中国已公开发布的最大模型是月之暗面的Kimi K3,而字节这个在训模型的参数上限,是它的三倍以上。即便按较保守的”超5万亿”口径,规模也已经超过Kimi K3,逼近Anthropic旗舰系统的水平。

模型 / 报道口径 参数规模 状态 信息来源
字节跳动在训模型 最高可达10万亿 训练早期阶段 英国《金融时报》8月7日
字节跳动在训模型(前一日口径) 超5万亿 训练早期阶段 晚点LatePost独家
月之暗面 Kimi K3 中国已发布最大模型 已发布 公开报道
Anthropic 旗舰系统 字节在训模型接近其量级 已发布 英国《金融时报》

参数量不等于能力,这是常识。但在当前阶段,敢把参数堆到10万亿,本身就是三件事的叠加证明:算力储备够、数据管线够、以及最关键的——公司愿意为一次不确定的长周期投入买单。

二、张一鸣罕见发声:拒绝走蒸馏捷径

这条技术路线消息的背后,是一次同样罕见的内部表态。

据The Information披露,在两周前的字节Seed全员会上,创始人张一鸣明确拒绝以蒸馏手段追赶前沿大语言模型,态度相当坚决:”字节跳动应该愿意为了长远目标牺牲一些短期利益。”8月6日,财闻方面亦证实,张一鸣在近日的一场内部会议中表示,做模型要坚持长期主义、延迟满足感,而不是”用别人的输出,换一时的榜单排名”。字节跳动CEO梁汝波此后也就相关议题先后发声。

为什么”蒸馏之争”在字节内部反复升温

今年以来,国内开源大模型加速迭代,几乎每隔几天就有新模型发布。每当一个能力较强的开源新模型出现,字节内部关于是否采用蒸馏路线的讨论就会升温。这个矛盾很好理解:

  • 蒸馏的诱惑:用更强模型的输出来训练自己的模型,见效快、成本低、榜单数字漂亮。
  • 蒸馏的天花板:本质上是在学别人已经想明白的东西,很难产生超越教师模型的原创能力。
  • 外部竞争压力:开源生态越活跃,”抄近路”的机会成本看起来就越低,内部争论自然越激烈。

打个比方:蒸馏像是把学霸的错题本抄一遍,短期成绩能提,但你永远不知道题是怎么想出来的。自己从头训一个10万亿参数的基座模型,则是要自己重新学一遍解题的底层逻辑——慢、贵、风险大,但天花板不一样。

三、这个决定的三层含义

1. 战略层:把资源押在基座,而不是榜单

拒绝蒸馏意味着放弃短期排名收益。对一家以增长和数据驱动著称的公司来说,这是一个反直觉的选择,也是一个明确的战略信号:字节要的不是这一季的领先,而是下一代基座的话语权。

2. 组织层:为长周期研发争取内部共识

创始人在全员会上直接定调,实质是在为一个可能一两年不出成绩的项目提供组织保护。大模型研发最怕的不是技术难题,而是中途被KPI打断。张一鸣所说的”延迟满足感”,本质是组织耐心的问题。

3. 行业层:中美前沿差距的收敛信号

《金融时报》在报道中提到,中国公司正继续缩小与美国顶尖实验室的差距。当中国头部厂商开始以万亿量级的基座模型作为竞争起点,行业的比较维度就从”追赶发布节奏”,变成了”比拼原始训练能力”。

四、给创业者的几点提醒

  • 看清自己在哪一层竞争。10万亿参数是巨头的牌桌,创业公司的机会不在参数,而在场景、数据闭环和交付能力。
  • “长期主义”必须配套资源承诺。喊口号不难,难的是在没有短期回报的季度里仍然给足预算。没有这个配套,长期主义就是自我感动。
  • 警惕榜单驱动的产品决策。榜单是营销资产,不是能力证明。真实业务场景中的稳定性、成本和可控性,才是客户续费的理由。
  • 关注在训模型的溢出效应。超大基座一旦训出来,通常会带动一批小尺寸蒸馏版、行业版模型开源或开放API,这才是中小团队真正能吃到的红利窗口。

FAQ 常见问题

Q1:字节这个10万亿参数模型已经发布了吗?

没有。据《金融时报》报道,该模型目前仍处于训练的早期阶段,尚未发布,也未披露正式名称、发布时间表和技术细节。

Q2:为什么两天内报道的参数量从5万亿变成了10万亿?

晚点LatePost在8月6日晚间的独家报道中给出的口径是”超5万亿”,而8月7日《金融时报》援引三名知情人士给出的是”最高可达10万亿”。两者均为知情人士口径,尚无官方确认,存在差异属正常现象。

Q3:什么是模型蒸馏?为什么会有争议?

蒸馏是指用能力更强的”教师模型”的输出来训练”学生模型”,从而以更低成本快速提升后者表现。争议点在于:它能快速改善榜单成绩,但依赖他人输出,被认为难以形成原创的前沿能力,同时也存在知识产权层面的讨论。

Q4:张一鸣的表态是通过什么渠道传出的?

据The Information报道,相关表态出自两周前字节Seed团队的全员会;8月6日财闻方面也求证到,张一鸣在近日一场内部会议上表达了坚持长期主义、拒绝以他人输出换榜单排名的观点。

写在最后

大模型竞赛进行到2026年,最稀缺的资源已经不是GPU,而是敢于承受两年不出成绩的组织耐心。字节这次的选择——训一个10万亿参数的基座、同时明确拒绝蒸馏捷径——把这个行业的核心矛盾摆到了台面上:你是要一份好看的季度报表,还是要一张下一代的入场券。这道题没有标准答案,但字节已经公开写下了自己的选项。

© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容