去年，”slop”这个词突然火了起来。Merriam-Webster把它列入候选，Macquarie Dictionary评为年度词汇，The Economist也花了篇幅讨论。Slop说的是AI随手生成的垃圾内容。这件事本身就说明：AI产生的问题已经从科幻担忧变成了日常困扰。
AI安全威胁不只是”垃圾内容”
越狱攻击：通过精心构造的提示词让大模型绕过安全限制，被用于生成恶意代码和虚假信息。
深度伪造：AI生成视频质量提升极快，社会信任成本急剧上升。
数据隐私：员工把公司内部代码贴进ChatGPT导致机密泄露的事件屡见不鲜。
中国的AI治理：一条中间路线
2025年出台的《人工智能拟人化互动服务管理办法》要求所有AI模拟真人对话的服务必须明确标注AI身份。同一时期修订的《网络安全法》增加了AI生成内容标识要求。这种”边发展边治理”的思路，灵活且有针对性。
伦理困境：安全与实用的拉锯
Azure OpenAI健康助手为了安全用卡通形象替代真实医生照片，结果用户觉得不专业，信任度下降。百度前总裁张亚勤强调AI安全是系统问题，中科院曾毅研究员提出需要为AI发展装上”刹车”。
2026-2027展望
AI内容的标识会更严格，高风险场景的专项法规会陆续出台。对从业者来说，了解AI安全与伦理不是”加分项”，而是”必需品”。