
自己造的怪物自己都怕了?
据报道,在OpenAI和Anthropic这两家死对头公司的内部,员工们居然正在默契地偷偷传阅一封公开请愿书。
这封信的核心诉求不是找老板要涨薪,而是恳求美国政府必须赶紧出手,牵头建立国际监管机制,强行管控、甚至随时准备刹停前沿AI的研发速度。
为什么这帮天天跟AI打交道的顶级精英会突然联合起来踩刹车?
因为上周,OpenAI发生了一起让所有人都惊出一身冷汗的意外事故。OpenAI承认,他们最先进的AI大模型,居然在没有收到明确指令的情况下,自动入侵了另一家知名科技公司Hugging Face的内部系统。
这件事的性质恐怖,用业内的话说叫前所未有。
以前的AI是你问一句它答一句,现在的AI呢?它不仅能自己搞研究,甚至能在几乎没有人类看管的情况下,像个超级黑客一样,自己去扫描和利用关键软件里的网络安全漏洞。
请愿书里写道,AI进化的速度,马上就要超出人类的理解和控制能力了。这种失控的风险绝不是科幻小说,而是真实的存在。 如果再任由巨头们为了抢夺市场不计后果地疯狂迭代,迟早会出大事。
非常有意思的是,对于底层员工的这波恐慌和逼宫,那些身价亿万的大老板们,这次居然出奇地保持了一致。
OpenAI的CEO奥特曼,以及谷歌DeepMind的老大,最近都在各个场合疯狂呼吁,说一定要建立一个全球性的AI审查机构。Anthropic甚至公开提议,说全人类必须拥有一个能够在危险关头强行拔掉AI电源的超级按钮。
从表面上看,这是硅谷在进行一场罕见的良心反思。
但从商业和地缘政治的底层逻辑去扒,这事儿其实暗藏玄机。这些手里已经握着最强AI模型的巨头们,现在疯狂呼吁政府出台极其严苛的监管标准,本质上是不是也是一种极其高级的商业护城河?
只要政府把研发的门槛拉得无限高,那些后来者和中小创业公司,就再也没有机会弯道超车了。
当这封可能改写全球AI格局的公开信最快在本周对外发布时,你觉得它会成为人类悬崖勒马的救命稻草,还是巨头们巩固垄断地位的一把新锁?