内容争议持续发酵X平台终对AI生成真人比基尼照片下达禁令

1月15日消息，近日，埃隆·马斯克旗下的人工智能企业xAI陷入舆论漩涡，其开发的AI聊天机器人Grok由于被指生成色情相关内容，在全球范围内引发了广泛且激烈的争议。

在数周舆论压力的推动下，X 方面宣布将对 Grok 的图像编辑与生成功能进行收紧调整。

今天北京时间早间，X 借助 @Safety 账号发布消息称，平台已运用技术手段，禁止 Grok 编辑现实人物的图像，特别是涉及比基尼这类暴露服装的内容。该限制会面向所有用户实施，无论其是否为付费订阅者。

与此同时，xAI 决定把Grok的图像生成功能完全归入付费订阅体系，非付费用户将无法再使用图像生成权限。

在法律明确禁止的地区，X 还会直接限制所有用户通过 Grok 生成现实人物身着比基尼、内衣等服饰图像的功能。

据了解，马斯克此前回应表示，他并不清楚Grok是否生成过任何未成年人的裸露图片。他接着解释道，当开启NSFW选项时，Grok在理论上仅被允许生成虚构成年人的上半身裸露内容，且不涉及现实人物，其内容尺度与Apple TV上的R级电影相近。他还补充说明，这类限制会根据不同地区的法律规定进行相应调整。

在X发布相关声明的数小时之前，美国加州方面已经针对xAI及其产品Grok在处理AI生成色情内容这一问题上的方式启动了调查程序。加州总检察长罗布·邦塔表示，经过一项专门的分析可以发现，从圣诞节到新年这段时间里，xAI所生成的大约20000张图像当中，有超过半数的内容涉及穿着暴露的人物形象，而这些形象里还包含了疑似未成年人的身影。

此前，Grok因前述争议在全球范围遭遇监管与舆论的双重压力，多个国家的政府以及妇女、儿童权益组织纷纷呼吁苹果、谷歌将这款应用下架。

与此同时，鉴于对其可能生成色情内容的担忧，印度尼西亚上周已对Grok采取临时封禁措施，马来西亚随后也跟进实施了临时访问限制。