
为了解决极其让人头疼的算力短缺问题,谷歌现在真的被逼出了绝招。
据The Information爆料,谷歌正在秘密研发一款专为自家AI大模型Gemini量身定制的服务器芯片。这款内部代号为Frozen v2的芯片,设计理念极其硬核,它打算直接把AI模型的底层架构,硬生生地刻进芯片的硅片里。
消息一出,谷歌的股价在周一盘中一度大涨将近4%。
很多人可能听不懂把架构刻进硅片到底有多牛,打个比方。
像英伟达的GPU,或者谷歌现在的TPU,它们都是通用芯片。这就好比是一个全能的高级厨师,你让他做川菜、粤菜、西餐他都能做,但这需要他一边看菜谱一边思考,速度肯定受影响。
而谷歌正在研发的这款Frozen v2,就像是专门为做一种菜设计的全自动炒菜机。因为它已经提前把这道菜的决策逻辑固化在了机器里,省去了大量的思考和数据搬运时间。
根据爆料,用这种极端的专用路线,这款芯片的推理效率和响应速度,预计能达到谷歌现有最新芯片的6到10倍,能耗更是大幅下降。
谷歌为什么要费这么大劲去搞这种高度定制化的芯片?
最直接的原因,就是算力实在是太缺了。缺到什么地步?谷歌云甚至被迫拒绝了部分外部大客户的合作请求,甚至引发了内部各个部门为了抢算力而爆发的激烈矛盾。在这种极度饥渴的状态下,谷歌只能兵行险招。
不过,这款芯片也是一场极其冒险的豪赌。
因为把架构写死在硬件里,就意味着它牺牲了通用性。这款芯片以后只能用来跑Gemini模型,别的模型一概不伺候。而且万一哪天Gemini的底层架构升级了、改变了,这批极其昂贵的芯片可能直接就变成了一堆废铁。这其实说明,谷歌已经押上了重注,认定自己未来很多年都会沿用现在的这套大模型架构。
当然了,谷歌也没把鸡蛋放在一个篮子里。他们非常明确地表示,这款专用芯片只是新开辟的一条分支,不会取代现有的TPU通用芯片。
但在整个AI芯片圈子里,这股从通用计算转向专用推理的风潮已经刮起来了。很多初创公司已经拿到了几亿美元的融资在做同样的事,连英伟达都砸了200亿美元去布局推理芯片的技术。