Meta推出全新AI内容管理系统，以降低对第三方供应商的依赖

Meta于周四宣布，公司已着手推出更为先进的AI系统，用于处理内容管理相关任务，旨在降低对第三方供应商的依赖程度。此类任务涵盖识别并移除涉及恐怖主义、儿童剥削、毒品、欺诈及骗局等方面的内容。

公司称，一旦这些更先进的AI系统在应用中展现出良好性能，就会进行全面部署，以此降低对第三方供应商的依赖。

Meta在博客文章中解释道：“尽管我们依旧会安排人员进行内容审核，但这些系统将可以承担那些更契合技术特性的工作，例如对图形内容的重复审核，或是在对手持续变换策略的领域，像非法药物销售或骗局这类情况。”

Meta相信这些AI系统可以更准确地检测违规行为，更好地防止骗局，更快速地响应现实世界事件，并减少过度执行。

公司指出，AI系统的前期测试成效显著，其检测出的成人性诱导内容数量达到人工审核团队的两倍，且错误率下降幅度超过60%。此外，公司还提到，这类系统能够更精准地识别并拦截涉及名人和其他公众人物的冒充账号，同时通过监测异地登录、密码修改、资料编辑等行为信号，助力防范账户被盗风险。

此外，Meta还指出，这些系统每日能够识别并缓解约5000起骗局尝试，在这些骗局中，骗子会设法诱导用户泄露登录信息。

“专家会负责我们AI系统的设计、训练、监督与评估工作，对系统性能进行衡量，并做出那些最复杂且影响深远的决策，”Meta在其博客文章中这样表示。“就像在处理账户禁用的申诉或是向执法部门提交报告这类高风险、至关重要的决策时，人类依然会扮演关键角色。”

此举发生在Meta过去一年左右放宽内容审核规则之际，原因是唐纳德·特朗普总统第二次就任。去年，该公司终止了第三方事实核查项目，转而采用类似X的社区笔记模式。同时，它取消了对“主流话题”的限制，并表示会鼓励用户在政治内容上采取“个性化”的处理方式。

这也恰逢Meta及其他大型科技公司当下正面临多起诉讼，这些诉讼试图要求社交媒体巨头为其对儿童和年轻用户造成的伤害承担责任。

Meta在周四还宣布，其正推出一款由Meta AI提供支持的助手，可为用户提供全天候服务。这款助手将面向全球推出，适用于iOS与Android系统上的Facebook和Instagram应用，同时也能在桌面版Facebook及Instagram的帮助中心使用。