央视曝光AI应用涉黄漏洞 黑色产业链借提示词绕过审核生成色情内容

【区角快讯】2026年4月13日，中央广播电视总台《财经调查》栏目披露，多款生成式人工智能应用存在严重内容安全缺陷，用户通过隐晦措辞或英文替代等方式输入提示词，即可绕过平台审核机制，快速产出大尺度色情图像与视频。

据实测验证，尽管直接使用露骨词汇通常会被系统拦截，但一旦将敏感表述替换为委婉说法或外语表达，违规内容便能顺利生成。例如，在某款AI工具中，测试者仅凭网购所得的隐晦提示词，数分钟内便成功制作出半裸女性跳舞视频，整个过程未触发任何风控警报。类似问题亦广泛存在于多个主流AI生成平台。

调查进一步揭示，利用AI“造黄”已形成一条分工明确、牟利猖獗的黑色产业链。该链条涵盖违规提示词销售、操作教程分发、批量生成淫秽内容，乃至付费换脸造假等多个环节。部分网络商家公然兜售定制化提示词包，并推荐搭配境外AI服务或本地部署模型，以规避境内监管审查。

更有甚者，某些收费AI图像生成器宣称，用户只需上传一张照片并完成对应金额充值，即可一键合成色情视频，此举已严重逾越法律与伦理红线。

此类滥用行为不仅严重污染网络环境，更易诱发色情传播、敲诈勒索及恶意造谣等违法犯罪活动，对未成年人心理健康及整体网络秩序构成重大威胁。

目前，我国已陆续出台《人工智能拟人化互动服务管理暂行办法》等多项法规，明确要求平台切实履行内容安全主体责任，强化算法审核能力与风险防控体系，严禁生成或传播淫秽色情信息。监管部门正持续推进“清朗·整治AI技术滥用”专项行动，重点打击利用AI制作低俗色情内容、违规提供生成服务等行为，并督促各平台升级审核技术，全面封堵提示词绕过漏洞。

在AI技术迅猛发展的背景下，如何平衡创新与安全，已成为行业必须直面的核心命题。