币海NEWS

09月14日 星期一 (今天)
49分钟前
【元脑服务器推出支持Mooncake KV缓存共享的G3.5层全闪方案】
期货 ·  admin   |   2026-09-14 12:52:03
【元脑服务器推出支持Mooncake KV缓存共享的G3.5层全闪方案】元脑服务器面向大模型推理场景,推出支持Mooncake KV缓存共享的G3.5层全闪方案。方案以元脑全闪服务器NF5286为核心,与Mooncake缓存组件、推理框架的缓存感知调度协同,为推理集群提供独立于计算节点、可按业务需求单独规划的KV Cache共享空间。当上下文需求增长时,可以单独扩展缓存资源;当GPU节点扩容、调整或维护时,缓存资源也不必完全随计算节点变化。