AMD宣布完成对Taalas的收购,交易估值约29亿美元,包括最高14亿美元的或有对价。Taalas专注模型专用推理芯片,把单一模型硬连线到硅片中,减少通用架构的内存瓶颈。

为什么要做专用芯片
通用GPU要兼顾各种模型和任务,内存和计算之间的数据搬运成为瓶颈。Taalas的思路是把模型权重直接固化在芯片里,计算和存储合一,省去HBM和高速互连。
HC1有多快
Taalas的HC1演示芯片把Llama 3.1 8B固化在TSMC 6纳米工艺上,裸片面积815平方毫米,530亿晶体管,服务器功耗2.5千瓦。官方称每位用户每秒可处理17000个token。
代价是什么
第一,模型换不了,芯片只能跑一个模型;第二,第一代量化用3位和6位混合,输出质量有损失;第三,模型迭代快,芯片生命周期可能很短;第四,专用芯片只适合高频、稳定的推理负载。
AMD买的是什么
第一,推理优化技术,可以和Instinct GPU互补;第二,加拿大的工程团队;第三,面向特定客户的差异化方案;第四,在AI推理市场对抗英伟达的筹码。
商业化难点
专用芯片需要大客户承诺,否则流片成本收不回来。模型更新一次,芯片可能要重新设计。Taalas称两个月能把新模型转成定制芯片,但实际良率和成本还要验证。
行业信号
AI芯片正在分化:训练用通用GPU,推理用专用芯片。当模型稳定、调用量足够大时,专用芯片的能效优势会非常明显。AMD这笔收购,是对推理市场的一次长期下注。