为了保护年轻用户,OpenAI在ChatGPT中引入了"年龄预测"功能,旨在帮助识别未成年人并对其对话内容实施合理限制。
随着人们对AI对年轻人影响的担忧持续加剧,OpenAI近年来因ChatGPT对儿童的影响而受到严厉批评。多起青少年自杀事件被认为与该聊天机器人有关,与其他AI供应商一样,OpenAI也因允许ChatGPT与年轻用户讨论性话题而受到批评。去年4月,该公司被迫处理一个漏洞,该漏洞允许聊天机器人为18岁以下用户生成色情内容。
OpenAI一直在努力解决未成年用户问题,新的"年龄预测"功能只是在现有保护措施基础上的补充。该公司在周二的博客文章中表示,这项新功能利用AI算法评估用户账户的特定"行为和账户级信号",以识别年轻用户。
这些"信号"包括用户声明的年龄、账户存在时间长度以及账户通常活跃的时段等。该公司已经建立了内容过滤器,旨在为18岁以下用户过滤性、暴力和其他潜在问题话题的讨论。如果年龄预测机制识别出某个账户为18岁以下,这些过滤器会自动应用。
如果用户被错误地标记为未成年人,他们可以通过向OpenAI的身份验证合作伙伴Persona提交自拍照来重新确立其"成人"账户状态。
Q&A
Q1:ChatGPT的年龄预测功能是如何工作的?
A:年龄预测功能利用AI算法评估用户账户的特定"行为和账户级信号"来识别年轻用户。这些信号包括用户声明的年龄、账户存在时间长度以及账户通常活跃的时段等。
Q2:为什么OpenAI要推出这个年龄预测功能?
A:因为ChatGPT对儿童的影响受到严厉批评,多起青少年自杀事件被认为与该聊天机器人有关,OpenAI也因允许ChatGPT与年轻用户讨论性话题而受到批评,甚至出现过为18岁以下用户生成色情内容的漏洞。
Q3:如果被错误识别为未成年用户该怎么办?
A:如果用户被错误地标记为未成年人,他们可以通过向OpenAI的身份验证合作伙伴Persona提交自拍照来重新确立其"成人"账户状态,恢复正常的使用权限。