AI云服务商CoreWeave宣布,英伟达Vera Rubin NVL72系统在其云平台正式投入生产,AI软件公司Cognition成为首个运行生产工作负载的客户:实测总Token吞吐较GB200 NVL72提升最高4.8倍,强化学习场景每GPU输出Token吞吐达GB200的3.8倍。新一代算力平台的上架,把推理经济学又向前推了一档。

4.8倍意味着什么
Token吞吐直接决定AI服务的单位经济性:吞吐翻倍,同等并发下的推理成本近乎减半。对以token计费的云服务与应用厂商而言,这不是跑分,而是毛利率。Vera Rubin的投产节奏也说明,算力竞争已从”训练更大模型”扩展到”更便宜地服务海量请求”——推理侧的效率战成为新主场。
资本开支的军备赛
配套的动作同样值得关注:有报道称腾讯与甲骨文签署其最大海外租赁协议,在东南亚获取约10万块先进AI芯片、交易估值约70亿美元;CoreWeave、各大云厂的资本开支持续刷新纪录。硬件代际差让先上架者获得成本优势,进而吸引更多客户——规模飞轮在算力行业同样成立。但隐忧在于需求端:4.8倍的供给跃升若遇不上对应的应用爆发,折旧压力将迅速传导。算力军备赛的下一程,比的是谁先把吞吐变成收入。