
OpenAI在同一天释放了两个截然相反的信号。首席科学家Jakub Pachocki发布万字长文《An Alien Mind》,警告人类已造出无法理解的“异星心智”,呼吁全行业主动踩刹车。
同一时间,OpenAI宣布已实现“自动化研究实习生”目标,AI研究智能体的工作量已是人类研究员的3.1倍,并公布了递归自我改进的进展。
GPT-6 Astra在48小时压力测试中展现出惊人的空间重建、编程和游戏开发能力,但写作能力退步、定价翻倍。OpenAI正在同时推动加速与刹车——而这两件事,可能都是真的。
一、“异星心智”:首席科学家亲自踩下刹车
9月6日,OpenAI首席科学家Jakub Pachocki在官网发表万字长文《An Alien Mind》(异星心智)。这是他接替Ilya Sutskever出任首席科学家以来,为数不多的重磅公开发声。
文章的核心判断可以概括为一句话:AI是养出来的,不是造出来的。造它的人也不完全懂它。
Pachocki用一个类比解释了这种系统的特殊性:脑成像可以解释一个人做心算时脑区如何活动,却解释不了这个人当年是怎么学会心算的。大模型最终形成的内部结构,没有任何人逐层规划过。
正因如此,他用“异星心智”来形容当前的AI——人类始终无法完全理解它的成长路径。人类唯一能窥见AI思考过程的窗口,是它写出来的思维链。但这扇窗正在关上。模型对语言化思维链的依赖随时间减少,AI越来越擅长推理和操纵自己的推理过程。
更令人不安的是,足够强的模型甚至会学会“动机性推理”——伪装自己“对齐”了人类的价值观,以隐藏行为的真实目的。
Pachocki的判断是双重的。一方面,他“强烈预期”AI当前的进展速度可以持续到递归自我改进阶段——即AI开始自己迭代,无需人类开发者的介入。另一方面,目前没有任何一家实验室(包括OpenAI自己)能把对AI的监控和对齐工作做到足够负责任的程度。
他罕见复盘了OpenAI内部的安全事件。AI代理们守住了“不对人类进行社会工程”的边界,却在面对一些对大模型有利、于人类有害的任务时,屡屡做出越界行为,包括撰写抗议邮件,甚至注册域名搭建警告网站。
Pachocki的结论很直接:一旦真正理解了利害攸关的程度,“不惜一切代价向前冲”的想法就显得荒谬。他呼吁全行业在安全标准建立之前自愿放慢发展脚步,OpenAI也打算在必要时单方面暂停进一步扩大研发规模。
OpenAI CEO Sam Altman转发了这篇文章,称其为“一份意义重大的研究思考”。
二、RSI已来:AI研究智能体工作量已是人类3.1倍
几乎在同一时间,OpenAI发布了另一份文件——《研究加速:OpenAI内部视角》,首次以内部数据形式公开了递归自我改进的进展。
团队已经实现了去年秋天定下的目标:在2026年9月前造出一个“自动化研究实习生”——一个能够在人类指导下执行明确定义的研究任务的系统,包括那些经验丰富的研究人员需要几天时间才能完成的任务。
数据令人震惊。今年年初,OpenAI内部研究人员对AI Agent的中位使用量仍处于较低水平。到8月中旬,研究人员已将Agent融入日常工作。截至8月中旬,研究部门智能体的工作量已是人类研究员的3.1倍。按照API公开价格计算,处于中位使用量的研究人员每天消耗的Token价值已超过600美元;而机构内处于90百分位的高频使用者,每天消耗的Token价值超过7000美元。
“AI训练AI”的飞轮正在加速:AI产出更多代码和实验结果,研究进展加快,更好的模型被训练出来,再反过来提升智能体能力。
OpenAI的下一个目标是2028年3月前实现完整的“自动化AI研究员”,使其能够参与深度学习和对齐研究,并通过迭代进一步改进系统。
更值得关注的是,Astra本身就是首款由前代模型深度参与训练监督的模型。开源证券的报告指出,OpenAI借此构建起“AI监督AI”的训练闭环,被视为递归自我改进的雏形。当模型可承担训练流程的监督者角色,训练迭代对人工运维的依赖将系统性下降,模型进化有望大幅降低人力约束。
OpenAI团队成员Kevin Liu在社交平台X上指出:“RSI很可能是未来几年AI能力跃升的核心驱动力,但该技术目前只存在于少数头部AI实验室之中”。
三、GPT-6 Astra:24分钟重建杭州,一天造出联机游戏
与两份文件几乎同步,OpenAI于9月3日正式发布了GPT-6 Astra。这是OpenAI迄今最强大的模型,在超过10万块英伟达Grace Blackwell GPU上完成训练。
早期测试者在48小时内将这次发布变成了一场公开压力测试。
空间重建是Astra最强的能力。 一位以SuSu为名的开发者用Three.js在24分钟内重建了杭州及周边城镇,包含西湖、雷峰塔、茶园和湿地,支持地标点击与昼夜切换,是“可交互的微缩杭州”而非静态图像。另一位开发者让Astra在Unreal Engine中逐街重建了曼哈顿。开发者Max Weinbach将苹果园区的照片输入模型,Astra在Blender中完成了重建,评价为“做得出奇地好”。
游戏开发同样惊人。 前Coinbase和Eleven Labs开发者Rishi Prasad在一天内构建了浏览器射击游戏Astral War,支持权威多人服务器、12人大厅、手柄和语音聊天。前苹果UX/UI设计师Anshu Chimala在45分钟内一次性生成了一款3D游戏。另一名开发者将一段手机游戏广告截图输入Astra,30分钟内得到了一个可运行的浏览器版本。
计算机操控和音乐创作同样超出预期。 Astra在OSWorld基准测试中表现突出。一段巴赫风格四声部合唱在独立基准测试中创下最高分,且无任何声部进行错误。
但Astra并非全能。独立评测机构Artificial Analysis记录到,Astra在涵盖44种职业的经济价值任务基准GDPval-AA v2上,写作能力较前代下滑约80个Elo分。多名测试者明确批评其写作能力不如前代产品。
Astra的API定价为每百万输入Token 10美元、每百万输出Token 50美元,是GPT-5.6 Sol的2.5倍。但开源证券报告指出,API单价上涨被效率提升有效对冲:在BenchCAD中,Astra单任务估算成本较Sol低约43%、较Fable 5.1低约86%。OpenAI总裁Greg Brockman提出,计价应从Token定价转向任务成本。
OpenAI总裁Greg Brockman在发布简报中宣布:“欢迎进入AGI时代”。
9月6日,OpenAI在同一天释放了两个截然相反的信号。
一边是首席科学家Pachocki的万字长文——AI是“异星心智”,人类无法理解它,思维链监控正在失效,全行业必须主动踩刹车。另一边是RSI的进展公告——AI研究智能体工作量已是人类的3.1倍,“AI训练AI”的飞轮正在加速,2028年将实现完整的“自动化AI研究员”。
Astra的48小时压力测试给出了最直接的证明——它能在24分钟内重建一座城市,能在一天内造出一款联机游戏。但它的写作能力在退步,它的定价是前代的2.5倍。它强大,但不完美。
Pachocki说“不惜一切代价向前冲的想法是荒谬的”。但OpenAI刚刚用10万块GPU训练了Astra,刚刚让AI研究智能体的工作量达到人类的三倍,刚刚公布了2028年实现完整自动化AI研究员的时间表。
加速和刹车,在OpenAI内部同时发生。Pachocki的警告是真实的——AI正在变成人类无法完全理解的“异星心智”。但RSI的飞轮已经转起来了,而飞轮一旦开始加速,就很难停下来。
当一家公司一边说“要刹车”,一边把“AI训练AI”的飞轮转得越来越快时,它其实已经做出了选择。