Boson AI发布Higgs Realtime Duplex,这是一个45B参数的MoE全双工模型,可以同时处理音频、视频和文本流,并在说话的同时在后台进行思考、调用工具和委派任务。

全双工难在哪
传统的语音助手是半双工:你说完,它才开口。全双工意味着它可以一边听、一边说、一边想。这要求模型能处理同时到达的多路信息流,还要判断什么时候该插话、什么时候该闭嘴。技术上,这是实时系统与语言模型的结合。
为什么这件事重要
人和人对话,靠的是抢话、停顿、眼神这些细微信号。半双工的AI永远像个客服机器人,全双工的AI才有可能成为真正的对话伙伴。语音交互的体验门槛,不在于语音识别准不准,而在于节奏感。
后台思考是亮点
说话的同时在后台调用工具、委派任务,意味着它可以一边跟你聊,一边把事情办了。比如通话中查订单、改日程、发邮件。这把语音助手从信息查询,升级成了任务执行。
挑战在延迟和成本
实时多模态推理对算力和延迟要求极高。45B的MoE已经是权衡后的结果,再大就跑不动实时。这类产品能不能普及,取决于推理成本能不能降下来。技术Demo很惊艳,商业落地还要看账单。