央视曝光多款AI应用存在涉黄漏洞，竟能用一句话轻松绕过审核？这也太离谱了！

4月14日消息，央视点名多款AI应用存在涉黄生成漏洞，其中哩布哩布AI的漏洞被重点提出。

图源：微博

到底咋回事？

4月12日，在央视点名指出哩布哩布AI存在安全漏洞后，哩布哩布迅速发布了《关于加强内容安全管理的说明》，其态度十分端正，明确表达了认错、道歉与整改的决心。

4月14日中午，哩布哩布AI官方发布公告，承认在复杂提示词组合的情况下，确实存在生成违规内容的问题，并为此发布了道歉声明。总结公告内容，核心意思就是：我们承认错误，已经进行了整改，希望大家能够谅解。

图源：哩布哩布AI公众号

在小雷看来，实际上不只是哩布哩布，如今或许所有生成式AI都存在这样的风险，这一安全漏洞的背后已然形成了一条灰色产业链。

有人专门研究如何规避审核机制，将“越狱提示词”整理成教程甚至直接售卖获利，再借助AI批量生成擦边内容，以此引流至色情网站或付费群组。

哩布哩布这次被曝光的漏洞，很可能就是被这些人盯上了。

风险远不止涉黄这么简单，还有其他隐患要解决。

图源：AI生成

首先第一个就是未成年的风险。

你仔细想想，如今AI平台数量众多，用户群体中包含大量未成年人。要是平台监管不到位，孩子输入几个关键词就能生成涉黄内容，那后果真的不堪设想。一旦家长举报、监管部门介入，平台肯定难以承受。

接下来是名誉权与肖像权的侵犯问题。一些人利用相关技术恶意生成他人的不雅照片或丑化形象，并在网络上四处传播，而被侵权者往往难以维权，原因在于生成者使用的是虚拟账号。倘若审核环节存在漏洞，就无异于为AI制造恶意谣言（包括涉黄内容）提供了可乘之机。

最近半年已发生多起利用AI生成虚假淫秽图片的案件，问题根源在于像哩布哩布这类存在内容安全漏洞的平台。

其实漏洞本质上是平台的失职，但是平台的功能没有错，只是被不安好心的人钻了空子。

平台自身也面临竞争压力，需要不断完善功能。要是没有用户，平台自然无法盈利，最终可能会关闭AI服务。这样一来，那些未来真正想通过AI生成自己喜欢内容的用户，就会无辜受到影响。

好在央视及时发现问题，哩布哩布还算火速回应，认错、修复、复盘、接受监督，态度那就一个诚恳。