YouTube把AI深度伪造检测的适用范围扩大到政治人物、政府官员与记者群体

YouTube正把其AI生成深度伪造的识别技术推广至一个试点小组，该小组涵盖政府官员、政治候选人和记者。这家公司于周二发布了这一消息。试点小组的成员会得到一个工具，借助该工具能够检测未经授权的AI生成内容，并且当他们觉得这些内容违反YouTube政策时，可申请将其删除。

这项技术于去年推出给大约400万YouTube创作者，这些创作者属于YouTube合作伙伴计划，继早期测试之后。

这项技术和YouTube现有的内容ID系统相类似，后者是用来检测用户上传视频里受版权保护的材料的。而肖像检测功能，主要是为了找出由AI工具生成的模拟面孔。这类AI工具有时会被人用来传播错误信息、操纵大众对现实的认知，原因就在于它们能利用政治人物或其他政府官员等知名人士的深度伪造形象，让这些人在AI视频里做出或说出现实中从未有过的行为和言论。

通过新的试点计划，YouTube旨在平衡用户的自由表达与AI技术相关的风险，这些技术可以生成公众人物的逼真肖像。

“此次扩展实质上关乎公共对话的完整性，”YouTube政府事务与公共政策副总裁莱斯利·米勒在周二发布前的新闻发布会上表示，“我们清楚，对于公民领域的相关人士而言，AI冒充的风险尤其高。不过，尽管我们推出了这一新的保护措施，我们也在谨慎对待其使用方式。”她补充道。

Miller解释道，并非所有被检测到的匹配内容在接到请求时都会被删除。取而代之的是，YouTube会依据其现有的隐私政策准则来评估每一项请求，判断相关内容是否属于受保护的自由表达范畴，例如讽刺作品或政治批评内容。

该公司表示，其同样在联邦层面推动这些保护措施的落实，并对华盛顿特区的《NO FAKES法案》予以支持，该法案旨在对利用AI技术制作未经授权的个人声音及视觉肖像复制品的行为进行规范。

要使用新工具，符合要求的试点测试人员需先上传自拍与政府ID以验证身份。完成身份验证后，他们就能创建个人资料，浏览系统推送的匹配结果，还可以选择申请删除相关内容。YouTube方面透露，后续计划让用户能够在违规内容发布前就阻止其上传，或者或许会允许用户通过这些视频获取收益，这一模式与该平台的内容ID系统运作方式相似。

该公司不会确认哪些政治人物或官员将成为其初始测试者，但表示目标是随着时间的推移广泛提供这项技术。

这些AI视频都会被标记为AI生成内容，但标签的位置并不固定。有的视频会把标签放在描述里，而涉及更“敏感话题”的视频，标签则会加在视频开头。YouTube对所有AI生成内容都采用这种处理方式。

“有很多内容是由AI制作的，但这种区别其实对内容本身并不重要，”YouTube创作者产品副总裁Amjad Hanif在解释标签位置时表示，“比如它可能是AI生成的卡通。所以我觉得是否需要一个非常醒目的免责声明，是个需要判断的问题。”他这样说道。

YouTube目前没有分享在创作者手中使用这种深度伪造检测技术管理的AI深度伪造删除数量，但指出到目前为止删除的内容量“非常小”。

“我觉得对不少[创作者]而言，这不过是对当下创作内容的一种认知，但实际提出删除请求的数量真的非常非常少，毕竟大部分内容其实没什么危害，或者说对他们的整体业务是有好处的，”哈尼夫这样说道。

这可能不适用于政府官员、政治人物或记者的深度伪造。

随着时间的推移，YouTube打算将其深度伪造检测技术推广到更多领域，包括可识别的语音和其他知识产权，如流行角色。