字节被曝训10万亿参数大模型:张一鸣拒绝蒸馏,赌的是什么
8月7日,英国《金融时报》援引三名知情人士报道,字节跳动正在训练一个参数量最高可达10万亿的超大AI模型,目前处于早期阶段。这一规模比迄今为止中国已发布的最大模型、月之暗面Kimi K3还要大三倍多,接近Anthropic最先进系统的量级。值得注意的是,就在前一晚,晚点LatePost的独家报道给出的数字还是”超5万亿”——不到24小时,外界对这个模型体量的估计翻了一倍。
一、10万亿参数是什么概念
先把坐标系摆清楚。当前中国已公开发布的最大模型是月之暗面的Kimi K3,而字节这个在训模型的参数上限,是它的三倍以上。即便按较保守的”超5万亿”口径,规模也已经超过Kimi K3,逼近Anthropic旗舰系统的水平。
| 模型 / 报道口径 | 参数规模 | 状态 | 信息来源 |
|---|---|---|---|
| 字节跳动在训模型 | 最高可达10万亿 | 训练早期阶段 | 英国《金融时报》8月7日 |
| 字节跳动在训模型(前一日口径) | 超5万亿 | 训练早期阶段 | 晚点LatePost独家 |
| 月之暗面 Kimi K3 | 中国已发布最大模型 | 已发布 | 公开报道 |
| Anthropic 旗舰系统 | 字节在训模型接近其量级 | 已发布 | 英国《金融时报》 |
参数量不等于能力,这是常识。但在当前阶段,敢把参数堆到10万亿,本身就是三件事的叠加证明:算力储备够、数据管线够、以及最关键的——公司愿意为一次不确定的长周期投入买单。
二、张一鸣罕见发声:拒绝走蒸馏捷径
这条技术路线消息的背后,是一次同样罕见的内部表态。
据The Information披露,在两周前的字节Seed全员会上,创始人张一鸣明确拒绝以蒸馏手段追赶前沿大语言模型,态度相当坚决:”字节跳动应该愿意为了长远目标牺牲一些短期利益。”8月6日,财闻方面亦证实,张一鸣在近日的一场内部会议中表示,做模型要坚持长期主义、延迟满足感,而不是”用别人的输出,换一时的榜单排名”。字节跳动CEO梁汝波此后也就相关议题先后发声。
为什么”蒸馏之争”在字节内部反复升温
今年以来,国内开源大模型加速迭代,几乎每隔几天就有新模型发布。每当一个能力较强的开源新模型出现,字节内部关于是否采用蒸馏路线的讨论就会升温。这个矛盾很好理解:
- 蒸馏的诱惑:用更强模型的输出来训练自己的模型,见效快、成本低、榜单数字漂亮。
- 蒸馏的天花板:本质上是在学别人已经想明白的东西,很难产生超越教师模型的原创能力。
- 外部竞争压力:开源生态越活跃,”抄近路”的机会成本看起来就越低,内部争论自然越激烈。
打个比方:蒸馏像是把学霸的错题本抄一遍,短期成绩能提,但你永远不知道题是怎么想出来的。自己从头训一个10万亿参数的基座模型,则是要自己重新学一遍解题的底层逻辑——慢、贵、风险大,但天花板不一样。
三、这个决定的三层含义
1. 战略层:把资源押在基座,而不是榜单
拒绝蒸馏意味着放弃短期排名收益。对一家以增长和数据驱动著称的公司来说,这是一个反直觉的选择,也是一个明确的战略信号:字节要的不是这一季的领先,而是下一代基座的话语权。
2. 组织层:为长周期研发争取内部共识
创始人在全员会上直接定调,实质是在为一个可能一两年不出成绩的项目提供组织保护。大模型研发最怕的不是技术难题,而是中途被KPI打断。张一鸣所说的”延迟满足感”,本质是组织耐心的问题。
3. 行业层:中美前沿差距的收敛信号
《金融时报》在报道中提到,中国公司正继续缩小与美国顶尖实验室的差距。当中国头部厂商开始以万亿量级的基座模型作为竞争起点,行业的比较维度就从”追赶发布节奏”,变成了”比拼原始训练能力”。
四、给创业者的几点提醒
- 看清自己在哪一层竞争。10万亿参数是巨头的牌桌,创业公司的机会不在参数,而在场景、数据闭环和交付能力。
- “长期主义”必须配套资源承诺。喊口号不难,难的是在没有短期回报的季度里仍然给足预算。没有这个配套,长期主义就是自我感动。
- 警惕榜单驱动的产品决策。榜单是营销资产,不是能力证明。真实业务场景中的稳定性、成本和可控性,才是客户续费的理由。
- 关注在训模型的溢出效应。超大基座一旦训出来,通常会带动一批小尺寸蒸馏版、行业版模型开源或开放API,这才是中小团队真正能吃到的红利窗口。
FAQ 常见问题
Q1:字节这个10万亿参数模型已经发布了吗?
没有。据《金融时报》报道,该模型目前仍处于训练的早期阶段,尚未发布,也未披露正式名称、发布时间表和技术细节。
Q2:为什么两天内报道的参数量从5万亿变成了10万亿?
晚点LatePost在8月6日晚间的独家报道中给出的口径是”超5万亿”,而8月7日《金融时报》援引三名知情人士给出的是”最高可达10万亿”。两者均为知情人士口径,尚无官方确认,存在差异属正常现象。
Q3:什么是模型蒸馏?为什么会有争议?
蒸馏是指用能力更强的”教师模型”的输出来训练”学生模型”,从而以更低成本快速提升后者表现。争议点在于:它能快速改善榜单成绩,但依赖他人输出,被认为难以形成原创的前沿能力,同时也存在知识产权层面的讨论。
Q4:张一鸣的表态是通过什么渠道传出的?
据The Information报道,相关表态出自两周前字节Seed团队的全员会;8月6日财闻方面也求证到,张一鸣在近日一场内部会议上表达了坚持长期主义、拒绝以他人输出换榜单排名的观点。
写在最后
大模型竞赛进行到2026年,最稀缺的资源已经不是GPU,而是敢于承受两年不出成绩的组织耐心。字节这次的选择——训一个10万亿参数的基座、同时明确拒绝蒸馏捷径——把这个行业的核心矛盾摆到了台面上:你是要一份好看的季度报表,还是要一张下一代的入场券。这道题没有标准答案,但字节已经公开写下了自己的选项。
本网站的文章部分内容来源于网络,仅供大家学习与参考,如有侵权,请联系站长 QQ:24844 进行删除处理。本站一切资源不代表本站立场,不代表本站赞同其观点和对其真实性负责。本站一律禁止以任何方式发布或转载任何违法的相关信息,访客发现请向站长举报。本站资源大多存储在云盘,如发现链接失效,请联系我们我们会第一时间更新。














![修愚分享推广计划正式上线,推广可获高额奖励[限时推广]-修愚](https://xiuyu.com/wp-content/uploads/2025/05/愚你同乐-1024x410.jpg)


暂无评论内容