马里奥项目:DeepMind内部故事

Mar 31, 2026     Author:highfrequency     HN Points:16     HN Comments:2
Share this

摘要: 本文节选自2026年3月出版的《INFINITY MACHINE:Demis Hassabis、DeepMind与超级智能的探索》。2015年秋,DeepMind联合创始人Mustafa Suleyman与Demis Hassabis启动AI社会安全实验,与谷歌展开长期谈判。首次AGI安全委员会会议(2015年8月,马斯克主持)因控制权分歧(马斯克与谷歌CEO佩奇)及治理理念冲突失败。此后,双方尝试Alphabet重组(3-3-3独立董事委员会),但谷歌担忧AI商业价值流失。Suleyman团队提出Plan B,计划通过外部投资者(如Reid Hoffman承诺的1亿美元)实现独立,但因法律障碍(如员工竞业条款)和谷歌高层变动(如吉安兰德雷离职)未能成功。2017年Aviemore会议期间,谷歌提出将DeepMind拆分为研究(独立)与应用(并入谷歌)两部分,但最终因内部协调问题搁置。2019年,Suleyman因管理风格争议被暂停职务,最终离开谷歌。该事件揭示AI治理困境:企业利益与安全目标难以调和,传统治理结构在技术狂飙时代脆弱。Hassabis反思称,信任需通过实际合作建立而非制度设计,个人影响力成为最后的安全保障。

讨论: 顶级AI实验室存在拯救者综合症,认为没有他们世界就会毁灭。希望真正解决关键问题的优秀AI来自开源审查友好的公司。Altman、Hassabis、Musk、Dario、Picchai等领导人若集中掌握AI权力则绝对腐败。AI的有效性在于知识扩散和公平竞争平台。了解Grok表现差、GPT落后于Anthropic,Meta几乎放弃Llama,说明更多资金并未带来更好模型,这是积极信号。

原文标题:Project Mario: the inside story of DeepMind
原文链接:https://colossus.com/article/project-mario-demis-hassabis-deepmind-mallaby/
讨论链接:https://news.ycombinator.com/item?id=47588632