Meta暂停了青少年访问其AI聊天机器人角色的权限

Meta已禁止青少年与该公司的AI聊天机器人角色进行互动。这家社交媒体巨头于1月23日称，目前正着手开发角色的新版本，旨在为用户带来“更出色的体验”。

一篇以安全为主题的博客更新于去年十月发布，其中提到：“在我们全力推进新版本开发的过程中，将暂时在全球范围内暂停青少年对现有AI角色的访问权限。”

尽管Meta正在开发新软件，但对AI聊天机器人安全性的担忧持续加剧。

去年十月，联邦贸易委员会（FTC）透露，正就Meta等七家公司如何衡量与评估旗下机器人对青少年的不良影响展开调查。

去年12月，美国州检察长联盟向Meta等13家主要人工智能企业发送信函，提出建议——这些企业需采取更多举措，以避免人工智能与儿童之间产生有害对话，并举例指出谋杀、自杀及家庭暴力等案件的发生，明显与人工智能的输出内容存在关联。

在新墨西哥州，Meta正面临一场定于二月开庭的诉讼，被指控允许旗下多个平台存在儿童剥削行为。尽管这起案件并非专门针对AI机器人，但有消息称，Meta在审理过程中试图回避提及AI机器人，这一做法恰恰反映出该公司对AI领域相关批评的敏感态度。

在这些发展中，Meta决定拒绝使用这些AI角色也就不足为奇了，他们称此举是“优先考虑青少年的安全”。

该供应商称：“从未来几周起，青少年将无法在我们的应用里使用AI角色功能，直到新的体验更新完成。这一规定既适用于注册时填写青少年生日的用户，也包括那些虽自称成年，但经我们的年龄预测技术判定可能为青少年的用户。”

这一举措是对去年十月出台措施的升级，当时Meta推出了管控手段，让家长可以了解孩子与AI的互动情况，还能完全关闭聊天功能。

此前路透社报道了一份泄露的Meta内部政策文件，显示公司容忍了许多家长认为不合适的AI机器人回应。

Meta所采取的措施和OpenAI有相似之处，OpenAI同样推出了家长控制功能以及敏感对话的重定向机制，这源于一名自杀青少年ChatGPT用户的家属提起了过失致死的诉讼。

公司虽已取消Meta角色AI机器人的访问权限，但称青少年依旧能通过其AI助手获取“教育机会与实用信息”。