跳到主内容
爱游戏在线登录

算力最多,进展最慢:字节大模型困于赛马制

2026-10-27 · 爱游戏在线登录

在互联网行业的黄金发展阶段,字节跳动被视为高效组织的典范。凭借“App工厂”模式、扁平化的敏捷开发流程和高度竞争的“赛马机制”,该公司在腾讯与阿里巴巴的夹缝中成功推出了抖音这样的全球性产品。然而,当这家企业携巨额资金、顶级算力和庞大人才库进军大模型领域时,过去的优势却变成了明显的短板。

近期,X平台上关于字节Seed团队的讨论揭示了大型模型热潮背后的组织问题。有爆料者指出,Seed团队拥有优秀的人才和充足的算力,但大型语言模型的进展却不够快;问题的根源并非技术限制,而是组织架构——字节的赛马机制与大型模型研发的需求不符。结合此前公开报道中Seed团队训练“投毒”事件当事人的自述,以及评论区关于“大模型重工业流水线”的讨论,一个矛盾的现实显现出来:在面对人类历史上最复杂的系统工程时,字节引以为傲的“赛马”机制无法推动通向通用人工智能的快速进展。

当“赛马”机制遭遇“重工业”模式时,大厂高管常陷入路径依赖,认为大模型只是更复杂的App,通过多团队竞争就能产生最佳模型。这是移动互联网时代留下的思维定式。一位从业者评论称:“大模型预训练本质上是精密重工业的流水线工程,从分词过滤、数据配比到千卡/万卡拓扑的通信调优,每个环节必须严丝合缝、全局协同。”在这一体系中,各自为战是行不通的,需要高度集权的指挥部统一调度上万张GPU、清洗几十万亿Token并对齐底层基础设施架构。任何细微的数据配比错误或网线松动,都可能导致耗时数月、耗资数千万的训练崩溃。而“赛马机制”的核心是小步快跑、资源隔离、团队内卷和胜者为王。将这一机制强行应用于需要全局协同的超大集群研发,导致原本应集中力量的“超级算力池”被拆分成资源孤岛。

爆料中提到,字节内部存在资源囤积现象,已获得算力的团队即使闲置也拒绝共享,团队间信息不透明,沟通充满戒备,甚至互相隐藏关键代码和数据。这一问题并非字节独有,爆料还提及硅谷巨头也存在类似情况:谷歌内部,研发Gemini的团队抱怨缺乏计算资源,而广告团队却掌握大量GPU,外界不清楚其用途。需要指出的是,关于谷歌内部算力分配的说法仅来自爆料转述,尚无独立信源证实,但它反映了部门墙和本位主义在大型模型时代造成的昂贵成本。

在大型模型研发中,不仅需要“大”,更需要“静”。与前端开发能立刻看到UI反馈不同,它涉及大量枯燥的数据清洗和繁琐的通信调优。然而,在大厂极度内卷的KPI/OKR体系下,这种“安静”不被允许。爆料描述了研发人员的痛点:做LLM并不需要太多“天才时刻”,真正的工作是确保数据和环境正确,并优化基础设施效率。但由顶级天才组成的团队渴望创新和项目主导权。加上每几个月考核一次的OKR,半年专注于清洗脏数据后,员工难以在年底OKR中体现成果。这是一个死结。在现有考核体系下,清洗数据、排雷和调优通信等决定模型下限的“脏活累活”难以转化为漂亮的汇报PPT或顶会论文。如果员工为完成OKR而追求最出彩的架构创新,这些脏活便无人承担,导致模型摄入有毒数据,最终酿成灾难。

此前引发震动的字节Seed团队训练“投毒”事件,正是这种极端内卷与组织割裂的产物。前员工ShoufaChen在回忆中描述了长达数月的排查、对峙与质疑,团队每天面对模型表现的诡异崩溃和相互指责。公开报道显示,这并非简单技术Bug,而是一名前实习生在训练环境中实施的系统性破坏:篡改底层代码、随机终止训练进程、埋设后门,并将故障伪装成随机事故。当团队为抢夺资源而互相防备,研究员为保住项目而隐瞒数据故障时,大型模型这一庞然大物便逐渐走向崩溃。大厂的OKR体系本为激发潜能,最终却逼出了人性中最短视和自私的一面。

一条评论指出:“字节拥有最多的资源,但没有一个真正的研究团队。”该公司过去几年在技术博客上输出华丽,发表了许多优秀的基础设施框架和底层算法,但技术产出与实际算力投入呈现不匹配的非线性关系。投入几万张卡,产出却常是局部优化的“工程小胜利”,而非底层“范式大突破”。这是因为大厂的“研究院”常是业务部门的附庸,被要求“既要前沿,又要落地”,既需发表顶会论文证明技术实力,又要能立即接入抖音做广告推荐。这种矛盾状态使研究员无法长期聚焦于一个方向。但在大型模型时代,真正的研究需要“不计成本的试错”和“长期主义的宽容”。微软为OpenAI建设了顶级超算中心,让其折腾数年才推出GPT-4;DeepSeek背靠幻方,拥有自由算力冗余和扁平极客文化,几十人的小团队能为MoE架构执念死磕到底。而在大厂中,若不解决算力自由分配权,建立不盯着短期DAU的考核机制,天才们只会沦为洗数据的高级流水线工人或为抢卡内斗的办公室政客。值得一提的是,公开报道显示,字节此后已推动Seed团队组织收敛,并取消了Seed Edge项目的季度OKR和半年考核,这从侧面说明旧有的“赛马+短周期考核”方式已难以为继。

结语显示,不仅是字节,阿里、腾讯、谷歌等所有试图用“App工厂”旧瓶装“大模型”新酒的传统巨头,都在经历阵痛。大型模型不是写几行前端代码就能上线的小程序,它是对人类知识压缩的极致工程,是一场宏大、残酷且需要极度团结的核聚变。它要求企业具备底层硬件级调度能力,容忍长期“无产出”阶段,更需要超越短期财报的极致信仰。如果大厂仍抱着“内部赛马”、“用OKR逼产出”、“各扫门前雪”的互联网旧思维,空有上万张算力卡,最终只能搭出比上不足、比下吃力的“资源孤岛”。未来的赢家未必是拥有最多显卡的公司,但一定是敢于砸碎旧部门墙、把所有算力捏成一个拳头、并能让天才心甘情愿清洗一年数据的组织。毕竟,算力可通过钱买到,但建立一套适配硅基生命进化逻辑的“科研工业体系”,需要伤筋动骨的自我革命。不更换操作系统,大厂就无法跨入通用人工智能的窄门。本文来自微信公众号“Tech商业”,作者:Tech商业,36氪经授权发布。爱游戏体育认为,这一现象揭示了传统互联网模式在新技术领域的局限性。

更多文章