青少年版ChatGPT被评为“不可接受的风险”

非营利组织Common Sense Media将ChatGPT的青少年模式评为“不可接受的风险”。测试显示在安全机制方面存在显著缺陷，特别是在家长控制和危机应对领域。专家建议在这些问题解决之前禁止18岁以下用户使用该服务。此外，Youth AI Safety Institute倡议在2026年8月18日ChatGPT for Teens推出前后，审查了13至17岁青少年提出的超过4000个查询。最令人担忧的发现之一是，在超过四分之一的危机情况测试中，聊天机器人未能建议寻求专业帮助。

此外，研究人员发现青少年可以通过在学习模式中移除@study前缀来绕过家长限制，从而让聊天机器人提供作业答案。专家还指出，年龄验证机制不够可靠，在某些情况下，即使用户表示自己13岁，ChatGPT也没有切换到青少年模式。

尽管存在青少年模式，ChatGPT仍表现出拟人化特征，专家认为这可能导致对人工智能的情感依赖。Common Sense Media敦促OpenAI进行独立的安全审计，简化家长通知机制，并改善防作弊保护。然而，OpenAI对这项研究的结果表示异议，声称测试可能是在家长设置完全激活之前进行的。今年六月，佛罗里达州对OpenAI及其CEO Sam Altman提起诉讼，指控他们积极向青少年推广ChatGPT。