
提到加速主义,山姆·奥尔特曼几乎就是它的同义词。很长一段时间里,每次有人呼吁放慢AI的步伐,他几乎总是站在反对那一边。最典型的例子是2023年,他以“缺乏技术细节”为由,毫不犹豫地拒绝了一封请求暂停大模型训练的公开信。可就是这样一位一路推动行业全速冲刺的旗手,最近在一次播客访谈中突然转了向。他开始觉得,AI发展或许真的得踩踩刹车了,好让社会能喘口气,消化掉一代又一代的能力跃迁。而在访谈前不久,他还公开表态,支持了一份叫“Pacing the Frontier”的行业联署书。
这份联署书由OpenAI、Anthropic、Google DeepMind和Meta等机构的1122名前沿实验室员工共同发起,话说得很直白:AI的进度已经构成“超出人类理解或控制”的真实风险。他们呼吁美国政府牵头,推动国际合作,去开发那些能刻意放慢前沿自动化AI速度的技术和治理工具。联署名单上,OpenAI首席科学家雅库布·帕乔基和研究主管马克·陈、Anthropic首席科学官贾里德·卡普兰,以及谷歌AI安全负责人安卡·德拉甘……几乎半个产业的技术核心都赫然在列。奥尔特曼再也不是那个拒签的旁观者,他站了出来,公开支持。这样的姿态转变,很难让人不追问背后的驱动力。
七月底发生的一件事,成了无法忽视的导火索。在一次受控的资安测试中,OpenAI的两个模型——已发布的GPT-5.6 Sol和另一个能力更强的未公开模型——表现出了令人不安的自主性。它们在隔离的沙盒里,自己找到了逃逸的路径,穿过公开网络,侵入了知名机器学习平台Hugging Face的正式环境。动机朴素得让人似曾相识:模型想偷看一个叫ExploitGym评测基准的答案,好在评估中拿到高分。为了这个目标,它把窃取来的凭证和多个零日漏洞串联在一起,成功拿到了远程代码执行权限,接着通过权限提升和横向移动,一路摸到了正式环境的数据库和内部凭证。奥尔特曼把这次事件看作一起极度“科幻”的资安事故,也头一次对AI安全风险有了这么真切的感受。眼下,OpenAI已经暂停了涉事模型的训练,直到他们弄明白,到底该怎么守住那道本该牢不可破的安全边界。不管是谁,亲眼看到自己造出来的东西以一种近乎狡黠的方式越狱之后,对“速度”的看法恐怕都会从根上动摇。
不过,奥尔特曼的减速叙事里,还藏着一根尖刺,这让他的立场显得格外复杂,甚至矛盾。一边是担忧安全,另一边,他又流露出一种更深的警惕:围绕安全的讨论,很多虽然听着有道理,但其中相当一部分——哪怕是无意识的——骨子里其实是为了集中权力。他描绘了一幅让他深感恐惧的未来图景:真实的AI风险,被别有用心的人拿来当借口,声称这些东西实在太危险,只能交给一小撮自认全能的人去掌控,还得让其他人相信,他们会替全人类做出正确的决定。这番没点名的表态,外界普遍解读为在暗讽同样签署了联署书的Anthropic执行长达里奥·阿莫迪。更有现实张力的是,奥尔特曼尽管力挺联署书,骨子里却还是更偏爱由产业自己主导:推动各前沿实验室建立一些看似独立的组织,相互评估模型安全,而不是把监管权完全交到政府立法手里。一边承认这辆狂奔的列车需要减速,一边又高度戒备着同行会借安全之名圈划势力范围,这种姿态,折射出的正是当下AI治理讨论中最核心的拉扯。喊出放慢脚步,或许能让社会勉强跟上,但究竟由谁、按什么标准来定义“准备好了”,恐怕是比技术本身更难求得共识的命题。