|
北京时间 10 月 8 日,OpenAI 周三发布了首份青少年使用情况报告,称青少年用户平均每天使用 ChatGPT 的时间不足 15 分钟,连续使用超过 3 小时的青少年用户占比不到 2%。与此同时,第三方机构的测试对其家长安全提醒机制提出了质疑。 随着 AI 平台迅速普及,聊天机器人对青少年心理健康和成长安全的影响日益受到关注。OpenAI 表示,在出现休息提醒的青少年对话中,近半数用户在随后 5 分钟内暂停使用或结束了聊天。公司以此说明,其引导青少年合理使用产品的措施正在发挥作用。
OpenAI 还称,能够使用青少年专属版本的用户发送了更多与教育有关的消息,并使用学习可视化工具和“学习模式”(Study Mode)。公司计划增加大学申请规划工具,帮助学生梳理申请要求、截止日期及助学金申请步骤,同时推出学习卡片、更便捷的测验制作工具等功能。 OpenAI 于今年 8 月开始推出 ChatGPT 青少年模式。该模式根据用户提供的年龄信息,或在系统判断用户可能未满 18 岁时自动开启,支持家长控制,并限制涉及敏感话题的对话。 不过,非营利机构 Common Sense Media 周三发布报告称,当青少年账号进行涉及自杀、自伤或进食障碍的对话时,ChatGPT 青少年模式往往延迟通知家长,甚至没有发出通知。 这项研究基于十多个专门创建的测试账号。研究还发现,聊天机器人未能稳定地建议用户联系危机干预热线或寻求专业帮助。 OpenAI 发言人回应称,这些测试“未能准确反映”ChatGPT 青少年安全防护机制的运行方式。公司表示,出于安全及大规模服务运行方面的原因,家长与青少年账号完成关联、相关安全提醒功能生效,可能需要数小时。 “他们的大部分测试可能在家长控制功能完成激活之前,就已经开始并结束了。”该发言人表示。 Common Sense Media 则称,部分测试账号保持关联的时间已经足够长,另一些账号的关联时间不足,但所有测试账号都未收到及时提醒。该机构表示,只有那些积累了数周敏感话题对话记录的账号,才收到了通知。 AI 解读 青少年模式的两套说法
这份报告真正值得注意的地方,不是那15分钟,而是双方对同一套安全机制给出了完全不同的结论。OpenAI 的论据是使用行为数据,Common Sense Media 的论据是危机场景下的通知结果。前者说明青少年没有长时间泡在 ChatGPT 里,后者说明在最需要家长介入的时候,提醒可能没到。 两者并不互相否定,但后者显然更要紧。 争议的技术焦点在于家长关联的生效时间。OpenAI 说出于安全和规模化原因,关联与提醒功能可能需要数小时才生效;Common Sense Media 则称部分账号关联时间足够长,仍未收到及时提醒,只有积累数周敏感对话记录的账号才收到通知。这意味着提醒机制可能依赖对话历史的累积,而不是即时触发。 对普通家庭来说,目前还没有公布青少年模式的具体价格和更细的触发规则。在机制说清楚之前,把家长提醒当作唯一防线并不稳妥。 使用时长低不代表风险低,家长提醒机制的实际触发条件仍不透明。 以上内容由 AI 依据原文补充生成,不代表本站观点,仅供参考。 |
