X正面临欧盟委员会针对其Grok AI聊天机器人生成的性化深度伪造内容所展开的调查。欧盟委员会在相关公告里指出,会对X是否“就Grok在欧盟范围内的图像生成能力,进行了正确的风险评估与缓解措施”展开评估,这与《纽约时报》此前的报道内容一致。
来自全球各地的倡导组织与立法者,针对Grok的AI图像编辑功能发出了警示。原因是该功能已开始对平台上生成女性及未成年人性化图像的请求做出回应。随后,X取消了在公开帖子回复中编辑图片的功能,但所有用户依旧能够通过Grok在X内部的聊天机器人界面生成图片。
欧盟委员会将对X是否违反《数字服务法》展开评估,该法明确要求大型在线平台需为其平台上发布的内容承担法律责任。同时,欧盟还将扩大2023年针对X的全面调查范围,把基于Grok的推荐系统纳入审查范畴(此前,欧盟已在该调查中因“欺骗性”蓝色认证标识对X处以1.4亿美元加元的罚款)。
欧盟委员会负责科技主权、安全与民主事务的执行副总裁海娜·维尔库宁在新闻稿中指出:“针对女性和儿童的性深度伪造内容,是一种暴力且绝不能被接受的侮辱行为。”“我们将通过此次调查,确认X平台是否履行了《数字服务法案》(DSA)规定的法律义务,抑或是否将欧洲公民——包括妇女和儿童——的权利当作其服务运作中的附带牺牲品。”
若X再次被发现违反DSA,或将面临最高相当于其全球年度收入6%的罚款。