字节要冲 5 万亿参数:豆包的智商有望拉满,代价是百万显卡…

AI广播站1小时前更新 小悠
3 0 0

国产大模型参数量正在从万亿级别继续上探。Qwen3.8Max、Kimi K3已经把规模顶到2.4万亿和2.8万亿,再往下一站就是5万亿。这一次,率先行动的可能是字节。晚点 LatePost 报道称,字节正在讨论训练一个超过5万亿参数量的大模型,将成为国内已知规模最大的模型。不过计划还在早期阶段,最终不一定会发布。

5万亿参数是什么量级?它被视为 GPT-5.6或 Opus5级别。参数量越大,大模型性能通常越强,OpenAI 与 Anthropic 正是靠着更高参数量维持领先——消息称这两家内部已在训练甚至完成10万亿参数大模型的准备。但超高参数也意味着超高算力投入。以 H100为基准算账,训练5万亿参数大模型需要10万颗 H100跑347天,或者100万张显卡跑35天。百万卡已经跨进 GW 级算力规模,门槛极高。字节不可能一次梭哈投入这么多算力,更合理的姿势是用20到30万张显卡训练3到4个月,再叠加准备和后训练等环节,至少要半年,甚至一年之后才可能成型。

字节要冲 5 万亿参数:豆包的智商有望拉满,代价是百万显卡级别算力

算力储备上,目前最充裕的仍是 OpenAI,SemiAnalysis 测算其握有约200万张显卡;Anthropic 约62万张;DeepSeek 只有约6万张,且不少还是相对落后的 H20、H800。以字节的财力,喂饱一个5万亿参数大模型不在话下。有了它,豆包的能力做到 GPT-5.6或 Opus5级别没什么悬念,智商能真正拉满,不用再被网友调侃。现在唯一的悬念只剩商业回报——这笔天文数字的投入,能不能在落地端换来对等的收益。

字节Seed团队推出SeedRealtime大模型,以统一架构原生融合音频、视频和文本,实现“边看边听边说”的全双工实时交互。该能力已在豆包App全量上线,率先规模化落地。相比传统级联方案“听-转写-想-说”的逐段拼接,其端到端设计消除了感知与表达的割裂。

国产大模型全球下载量破100亿次,万亿级开源模型频出,人工智能产业链整体突破。国家发改委表示,上半年我国AI自主创新加速,深度求索、月之暗面等发布万亿参数开源大模型,下一步将统筹高质量发展与高水平安全。

国产大模型密集爆发,拉近与美国旗舰闭源AI差距。千问、Kimi之后,智谱创始人唐杰亲口透露GLM-5.5将迎“史诗级pl”升级,国产AI追赶步伐加快。

新浪开源VibeThinker-3B模型仅30亿参数,在数学、编程等基准测试中性能媲美百倍规模大模型,部分竞赛级任务超越顶尖产品。其成功源于基于阿里Qwen2的独特训练策略,挑战了参数量“越大越好”的观念。

据《晚点》报道,字节旗下豆包日均用户超2亿,但日收入不足百万,主要靠电商佣金变现,商业化结构单一。截至5月,日均算力成本已达数千万元,收入远不能覆盖成本,经营压力巨大。

字节要冲 5 万亿参数:豆包的智商有望拉满,代价是百万显卡…

关注 “悠AI” 更多干货技巧行业动态

© 版权声明

相关文章

没有相关内容!

暂无评论

您必须登录才能参与评论!
立即登录
none
暂无评论...