亚马逊和AWS把内部问询、系统错误自动分拣用的Claude Sonnet 4.6,换成了自研的决策模型Strands Decider,运营成本降低98%。

98%是怎么省出来的
不是靠一个更强的模型,而是靠一个更窄的模型。内部工单分拣是高度重复、边界清晰的任务,不需要通用大模型的全能。用一个专门为分类优化的小模型,参数量小、延迟低、成本自然低。
通用模型的隐性成本
企业用通用大模型做简单任务,就像用卡车送快递:能送到,但油耗和折旧都浪费了。每次调用都按Token计费,任务越简单,浪费比例越高。规模一大,账单就吓人。
专用模型的门槛
难点不在训练,在数据和评估。要有足够多的标注样本,要定义清楚分类边界,要持续监控准确率。Strands Decider能上线,说明亚马逊内部的工单数据足够丰富,流程足够标准。
什么任务适合换
高频、规则明确、容错率可控的任务,最适合用专用模型替换。比如工单分类、日志归因、内容审核、简单客服。反过来,开放式创作、复杂推理、多轮对话,还是通用模型更合适。
对企业的启示
不要默认最贵的模型就是最好的。先把任务拆细,看看哪些能用小模型解决,哪些必须上大模型。模型组合和路由,比单一模型更能控制成本。AI落地的下半场,拼的是工程效率,不是模型参数。