原文作者:龙玥
原文来源: 华尔街见闻
2020 年 12 月,OpenAI 一场全员视频会议的最后几分钟,彻底改变了 AI 行业的格局。
时任 OpenAI 政策负责人 Jack Clark 在聊天框里敲下“我爱你们所有人”,屏幕随即变黑——七名 OpenAI 核心成员被同时踢出会议,邮箱权限撤销,Slack 账号注销,笔记本电脑被远程锁死。这不是意外,而是一场蓄谋已久的决裂的终点。
这七个人,是 Dario Amodei 带走的。 当时他是 OpenAI 研究副总裁,GPT-2 和 GPT-3 的核心推动者,也是那个在内部写了 26 页论文、奠定大模型技术路线的人。他离开的理由,不是钱,不是职位,而是他认为 OpenAI 的管理层——尤其是 Sam Altman——根本不能被信任。
9 月 29 日,据《大西洋月刊》记者 Kevin Roose 历时数年、采访逾 150 名相关人士后披露,这场决裂的根源,可以追溯到 2017 年一个被称为“Countries Plan”的内部方案,以及此后三年间不断累积的猜疑、争吵与背叛感。
五年后,那七个人创立的 Anthropic,已拥有数千名员工,正与 OpenAI 并驾齐驱冲向 AGI。 但 Dario 和 Altman 之间的关系,据多名知情人士透露,至今仍是 “互相鄙视” 。
那份 26 页的论文,和 Amodei 的野心
2016 年,Dario Amodei 从谷歌离职,加入 OpenAI。
他戴圆框眼镜,顶着一头棕色卷发,紧张或思考时习惯用手指绕着发卷转。 同事们说他是“天才,但固执”。
Dario Amodei 视频截图
他表达观点的方式,是写长文。
2017 年,他写了一篇 26 页的内部文章,题为《计算大团》(Big Blob of Compute)。文章提出: 机器智能本质上是规模的函数——模型越大,越聪明。
这个判断,直接把 OpenAI 的研究方向推向了大语言模型(LLM),也为后来的 GPT-2 和 GPT-3 奠定了基础。
按理说,Amodei 的职业生涯正处于巅峰。他的团队不仅提出了预测模型性能提升的“缩放定律(Scaling Laws)”,还开创了让模型远离有害输出的“基于人类反馈的强化学习(RLHF)”技术。
但他却越来越确信,自己不会留下来开发 GPT-4 了。
“Countries Plan”:让他彻底寒心的那个方案
Amodei 对公司领导层失去了信心。
他认为 Sam Altman 是一个“两面派的操纵者”,而总裁 Greg Brockman 则是“贪恋权力且不计后果的”。他反感他们将 OpenAI 商业化的决定,认为这背离了“不受产生财务回报需求限制”的初衷。
更让他反感的,是内部的派系斗争。
一位曾与 Amodei 交流的人士透露,Amodei 当时认为 OpenAI 就是“一场闹剧”,是“由缺乏诚信的人掌管”的。这位人士直言:“每天都有新的危机,如果 Dario 不发一顿绝对的脾气,Sam 在 24 小时内就会做出新的疯狂举动。”
导火索在 2017 年就已埋下。
当时马斯克正撤出 OpenAI,公司急需资金。据五位知情人士透露,Brockman 和 Ilya Sutskever 构思了一个被称为 “国家计划”(“Countries Plan”) 的筹资方案:在包括美国及其他大国政府之间举行拍卖,出售 OpenAI 未来 AGI 技术的权利。
Brockman 和 Sutskever 的逻辑是: AGI 具有极强的国家安全意义,迟早会被政府从私营企业手中夺走。既然早晚要交出去,为什么不现在卖掉换取发展资金?
“这听起来就像科技人士在推销一个疯狂的初创公司,他们有一个古怪的计划,最后一步竟然是:我们会让政府来买单。”一位听过该计划陈述的人士回忆。
Amodei 惊呆了。他认为,向政府兜售 AGI 与 OpenAI 的使命背道而驰。
2017 年 12 月,他给 Brockman、Sutskever 及其他高管写了一封邮件,措辞直接:
“在我看来,这项计划非但不能减少,反而会加剧军备竞赛,有可能引发人权暴行……并会破坏 OpenAI 的道德合法性。”他坚持,OpenAI 应该为“造福人类”而优化。
OpenAI 发言人后来对《大西洋月刊》表示,公司“曾短暂考虑过是否将 OpenAI 转变为一个国际合作项目”,但“从未考虑过向任何国家出售 AGI”。
这个方案最终因微软入局而搁置。但 Dario 没有忘记,Brockman 和 Sutskever 曾经认真讨论过一个他认为“道德上令人作呕”的想法。
信任一点点耗尽:暗藏的名单、被否决的收购条款和侃爷事件
在随后的两年里,裂痕不断扩大。Amodei 开始记录他认为被 Altman 误导的时刻。
比如,在 GPT-3 的私人内测期间,Amodei 向 Altman 索要了一份获批客户名单。Altman 发给了他一份。但 Amodei 随后声称,他发现了另一份更长的获批名单,而 Altman 对此只字未提。
再比如,在与微软谈判 10 亿美元投资时,Amodei 极力要求保留 OpenAI 章程中的“合并与协助条款”——即如果出现更安全的 AGI 项目,OpenAI 应停止竞争并协助对方。他坚持微软无权否决 OpenAI 未来可能的被收购(这是实现合并协助的最可能方式)。
Altman 告诉他,微软不同意这个条款。但 Amodei 坚信,Altman 是为了急于达成交易而让步(或者根本没提),然后对他撒了谎。
更有一些看似荒诞的商业决策让 Amodei 无法忍受。 2020 年,Altman 会见说唱歌手 Kanye West,并提议让他参与 GPT-3 内测。当时 Kanye 刚发布了疑似对着格莱美奖杯小便的视频,精神状态极不稳定。政策总监 Jack Clark 最终出面扼杀了这个危险的想法。
这些事单独看也许不足以让人辞职。但在 Amodei 脑海中,它们拼凑出了一个结论:绝不能把 AGI 这样强大的技术,交到这样的人手里。
“毛绒玩具顾问团”,和一个越来越孤立的安全派小圈子
Amodei 的妹妹,Daniela Amodei 也对 OpenAI 感到厌倦。
作为一名曾在政界工作、高情商的管理者,Daniela 成为了哥哥技术狂热的补充。但随着她接管更多技术团队,她与管理层的冲突日益增加。
Daniela Amodei 视频截图
有趣的是,Daniela 有一套独特的冲突处理机制——毛绒玩具顾问团。
她和董事会成员 Holden Karnofsky 收集了大量毛绒玩具,并为它们分配了角色:Jinji 是一只懒惰的猫,鼓励她取消会议、少干活;粉红熊 Maura 是一个注重细节的 A 型管理者;熊猫 Beary Bonds 则是“慷慨和同理心的守护熊”。她用这种半开玩笑的方式来进行管理角色扮演。
到了 2020 年,Amodei 兄妹开始在 OpenAI 内部建立自己的核心圈子。
他们建立了私密的 Slack 频道,满口都是非技术人员听不懂的“安全黑话”。前同事回忆:“Dario 当时有个习惯,就是直接说:我们必须做 X;这是道德上正确的事情。这就像是赢得任何争论的捷径——‘因为安全’。这让非安全团队非常恼火。”
19 年,Amodei 一度想放弃,甚至考虑过跳槽 DeepMind。但负责缩放定律研究的物理学教授 Jared Kaplan 提出了一个更具颠覆性的想法:既然理念不合,为什么不带上所有注重安全的人,自己开家公司?
2020 年,GPT-3 发布的同一年,Amodei 凑齐了 7 名联合创始人。
在彻底摊牌前,Amodei 向 Altman 提出了一系列留任条件,包括给予安全团队对新产品发布的“一票否决权”。他知道这多半会被拒绝,只希望借此逼迫 Altman 妥协。
谈判期间,这 7 个人建立了一个名为“BATNA”的秘密 Slack 频道——这是一个商学院术语,意为“谈判协议的最佳替代方案”,随时准备走人。
拔掉网线,屏幕骤黑
当确认 Altman 不会满足要求后,“BATNA”团队聘请了律师,开始谈判被称为“离婚”的条件。
双方达成协议:离职团队可以在几周内挖走想要的员工,换取此后一年内的不挖角承诺;可以带走部分内部研究文件;双方签署互不贬低协议,绝不在公开场合说对方坏话。
2020 年 12 月,决定命运的 OpenAI 全员线上会议召开。
Altman 像往常一样开场,通报研究进展。随后,他把发言权交给了 Amodei。
Amodei 平静地宣布,他和另外 6 名领导层将辞职,成立一家专注于安全的 AI 组织。会议聊天窗口瞬间被震惊的表情符号和感叹号淹没。大家都在猜测:谁来训练 GPT-4?谁是我的新经理?
在满屏的错愕中,Jack Clark 在聊天框里敲下了最后一句话:“我爱你们所有人。(I love you all.)”
紧接着,一瞬间,这 7 个人的屏幕全部黑了。
OpenAI 直接将他们踢出了会议,撤销了电子邮件和 Slack 权限,并远程锁死了他们的笔记本电脑。
几个小时后,这批新失业的创始人召开了第一次视频会议。没有电脑、没有 GPU、没有数据,甚至公司域名还没定好(原本想叫 Sparrow Systems,最后改成了 Anthropic)。但他们在屏幕前举杯庆祝,笑得比过去几个月都开心。他们自由了。
万亿估值与无法停止的怨恨
五年过去,现实与初衷开了一个巨大的玩笑。
在 2021 年 Amodei 撰写的成立愿景中,他设想的是一家大约 50 人的小型 AI 安全研究实验室,并预测构建 AGI 只需约 100 亿美元。
2023 年夏天,这里还像个繁荣的邪教总部或大学植物实验室。160 名痴迷于安全的员工挤在一起吃纯素三明治,用 Liquid Death(一款气泡水)的空罐子堆起高高的王座。
但到了 2025 年冬天,Anthropic 已经变成了一个指挥中心。
员工膨胀到数千人,搬进了安保森严的高层建筑。入口处站着十几个魁梧的保镖,训练新版 Claude 的楼层甚至对内部员工都要求特殊权限。
Amodei 成了乘坐包机、有保镖簇拥的科技巨头。他曾经低调内敛,如今却要管理一家史上增长最快的资本巨兽,正冲刺着万亿估值的 IPO。
Daniela Amodei 将这一切称为“成功的灾难”:“在每一个维度上都充满压力。这让人害怕,因为我们随时可能失去它。这仅仅是商业方面。然后是我们的使命,我们在想,我们会不会意外地让事情变得更糟?比如,我们以为自己弄懂了所有关于安全的事情,但真的懂了吗?”
唯一没有改变的,是他们与 OpenAI 的死敌关系。
据熟悉他们的人透露,Dario 和 Daniela 依然鄙视 Altman 和 Brockman。在 Anthropic 内部的 Slack 群里, Dario 甚至直言 Altman 和 OpenAI 是“邪恶(evil)”的, 以至于在 2023 年 OpenAI 董事会政变期间,公关高管甚至要求他删除这条消息,怕被泄露。
而在 OpenAI 这边,员工们私下将 Amodei 兄妹描述为“渴望权力的美德信号发送者”,指责他们虚伪——表面上警告 AI 风险,私下里却在加速这场竞赛。
这成了硅谷当下最深刻的黑色幽默:这两拨人都在倾尽算力,训练 AI 模型要保持善良、同理心与克制;但作为创造者的人类,却始终无法放下对彼此的深仇大恨。