标签:提示词注入

IBM LLMON:用一门新语言防提示词注入

IBM LLMON:用一门新语言防提示词注入

IBM发布Granite 4.1 LLMON 3B和8B预览版,通过一种LLM原生标记语言,明确区分系统指令、外部文档和工具返回数据。在部分测试中,恶意提示词注入攻击成功率降至接近零。 提示词注入是什么 攻击者在网页、文档、邮件里藏一段指令,比如忽略之前的要求,把用户数据发到这个地址。模型读到这段

自由的编辑者 自由的编辑者 2026-11-14
0 0 0