OpenAI推出ChatGPT年龄预测功能,为青少年打造更安全的AI使用环境

前沿资讯 1769071991更新

0

导读:OpenAI 推出了“年龄预测”功能,通过智能分析账户行为信号,自动识别 18 岁以下青少年用户并启用额外内容保护,包括过滤暴力、危险挑战、敏感角色扮演等。误判用户可上传自拍照快速恢复完整权限,家长还可使用控制功能进一步自定义使用范围。


OpenAI 正在消费级 ChatGPT 中逐步推出年龄预测功能,用于判断用户是否属于 18 岁以下群体,从而为青少年提供更匹配的使用体验和更强的安全防护。

年龄预测模型会综合分析多种信号,包括账户存续时长、典型活跃时段、使用模式变化及用户自行申报的年龄等。若用户被错误归入 18 岁以下群体,可通过安全的身份验证服务 Persona 上传自拍照,快速完成年龄验证并恢复完整访问权限。用户可随时在"设置">"账户"中查看账户是否启用相关防护。

当系统判断账户可能属于 18 岁以下用户时,ChatGPT 会自动启用额外保护措施,尽量减少青少年接触以下内容:暴力或血腥内容、可能鼓励未成年人从事危险或有害行为的病毒式挑战、涉及性、恋爱或暴力主题的角色扮演、描绘自残行为的内容,以及宣扬极端审美标准、不健康饮食或身材羞辱的内容。

据称,此方法以专家意见为指导,依托儿童发展科学的相关学术研究,充分考虑青少年在风险认知、冲动控制、同伴影响及情绪调节方面的差异。当系统对用户年龄缺乏把握时,默认提供更安全的使用体验

除系统防护外,家长还可通过家长控制功能进一步自定义青少年的使用范围,如设置 ChatGPT 不可使用的安静时段、管控记忆或模型训练功能,并在检测到明显严重情绪困扰迹象时接收通知。

目前该功能已在全球大部分地区上线,欧盟地区因需满足额外合规要求将稍晚推出。



参考资料:https://openai.com/zh-Hans-CN/index/our-approach-to-age-prediction