英国正推行一项法律,把制作非自愿深度伪造图像(比如Grok AI聊天机器人在X平台上传播的这类图片)列为刑事犯罪,BBC对此进行了报道。
英国科学、创新与技术大臣莉兹·肯德尔称:“去年通过的数据法案已把创建或要求制作非自愿亲密图像明确为刑事犯罪。”“今天,我要向议会宣布,这一违法行为将于本周正式生效,同时我也会将其纳入《网络安全法》的优先违法行为范畴。”而一旦列为优先违法行为,“相关服务方就必须主动采取措施,从源头上阻止这类内容的出现。”
英国通信行业监管机构Ofcom于今日早些时候发布公告,称已正式对X平台涉及Grok深度伪造的相关行为展开调查。一旦Ofcom判定X存在违反《网络安全法》的情况,不仅可能要求该平台落实特定整改措施,还可处以“最高1800万英镑,或其符合条件的全球收入的10%——两者取较高值”的罚款。
肯德尔表示:“政府希望Ofcom能尽快公布调查的时间安排。”“公众,特别是格罗克活动的受害者们,都期待着迅速且坚决的行动。因此,这件事不会拖上好几个月。”
xAI没有第一时间对置评请求作出回应。1月3日,X方面称:“针对X平台上的非法内容,像儿童性虐待材料(CSAM)这类,我们会采取措施,清除相关内容,永久封禁涉事账户,在有需要的情况下还会和地方政府以及执法部门开展合作。不管是谁,只要使用Grok制作非法内容,或者怂恿他人利用Grok制作非法内容,都要承担和上传非法内容一样的后果。”
上周,X针对Grok生成图片的功能增设了部分限制,让在回复里@该聊天机器人以公开生成图片的操作,变成了付费订阅用户才能独享的特权。不过,The Verge却发现,目前依旧存在免费使用Grok进行图像编辑与创作的途径,其中甚至包含带有性暗示的图片。