
随着对人工智能给年轻人带来的影响的担忧不断加剧,OpenAI在ChatGPT里新增了一项“年龄预测”功能,其目的是助力识别未成年人,进而对他们的对话内容实施恰当的限制。
近年来,OpenAI因ChatGPT对儿童产生的影响而遭受严厉指责。部分青少年自杀事件被指与这款聊天机器人存在关联,和其他AI供应商类似,OpenAI也因允许ChatGPT与年轻用户谈论性相关话题而受到抨击。去年4月,该公司不得不处理一个安全漏洞,该漏洞曾使得其聊天机器人能够为未满18岁的用户生成色情内容。
该公司在处理未成年用户问题上已投入了一段时间,其新推出的“年龄预测”功能只是对现有保护措施的补充。OpenAI称,这项新功能借助AI算法,通过分析用户账户的特定“行为及账户级别信号”来识别年轻用户,这一内容在周二发布的一篇博客文章中有所提及。
公司表示,这些“信号”涵盖了用户自己填写的年龄、账户注册后的时长以及账户平时活跃的时间区间等信息。目前公司已配备内容过滤系统,主要用于拦截未满18岁用户参与性、暴力及其他可能引发问题的话题讨论。一旦年龄预测工具判定某个账户属于未成年人,这些过滤机制就会自动启动运行。
OpenAI表示,若用户被误标为未成年,可通过其身份验证合作方Persona提交自拍照,以重新确认自己的“成人”账户身份。