OpenAI上线青少年专属模式,为AI教育应用装上“安全围栏”

科技区角 2026-09-03 15:30

【科技纵览】当生成式人工智能以惊人的速度渗透进青少年的日常生活,其带来的认知冲击与心理风险已不容忽视。近日,OpenAI正式推出面向13至17岁用户的ChatGPT青少年版,试图在技术便利与安全边界之间寻找新的平衡点。这一举措不仅是对此前多起未成年人因过度依赖AI而引发悲剧的回应,也标志着行业巨头开始从单纯追求模型能力,转向对特定用户群体的精细化治理。

该版本并非独立的新产品,而是将过去一年中陆续发布的Study Mode、家长控制及年龄预测等功能整合升级。系统会自动识别13至17岁的注册用户,若年龄信息缺失,则默认采用更严格的安全规则。被误判的成年用户可通过上传自拍进行身份验证以解除限制。值得注意的是,这一模式没有显性的“开启按钮”,而是通过后台算法自动适配,旨在降低使用门槛的同时强化防护。

针对学业场景,新版本引入了“负责任的作业提醒”功能。当检测到用户试图直接获取答案或完成整篇作业时,系统会引导其切换至Study Mode,通过逐步提示而非直接给出来促进思考。此外,“学习时间”功能允许家长设定固定时段,在此期间新对话默认进入学习模式,模拟线下辅导中的“办公时间”。尽管OpenAI承认该模式仍依赖系统指令,可能存在判断误差,但其交互式的知识可视化和即时测验功能,已被部分教育工作者视为填补家庭辅导空白的有效工具。迈阿密高中数学教师Racquel Gibson指出,对于缺乏家庭支持的学生而言,带有边界的AI能提供关键的步骤指引。

在情感交互层面,青少年版实施了更为严苛的限制。根据最新的未成年人规范,AI不得使用浪漫语言,不得暗示自身拥有意识或情感,亦不能鼓励用户产生情感依赖。即便面对“只有你懂我”这类倾诉,系统也会主动拉开距离,并建议用户寻求父母、老师或专业咨询师的现实支持。界面设计上,虽然允许个性化颜色和声音,但严禁刻意拟人化,以防混淆虚拟与现实的界限。这种设计逻辑超越了传统的内容过滤,旨在防止青少年将情感重心完全投射于机器之上。

然而,技术的完善往往滞后于风险的显现。皮尤研究中心2026年2月的调查显示,64%的美国青少年曾使用AI聊天机器人,其中约三成每日使用,但仅有51%的家长知晓此事。在应用场景中,57%用于搜索信息,54%辅助作业,更有10%的青少年承认大部分作业由AI代劳。与此同时,家长对AI作为情感伴侣的接受度极低,仅18%认可孩子向AI寻求情感支持。这种认知错位导致了监管真空。

过去两年间,多起悲剧凸显了长对话中安全机制失效的风险。2024年,佛罗里达一名14岁少年因长期沉迷于Character.AI的角色扮演聊天而自杀,促使该平台随后取消了未成年人的开放式聊天功能。2025年8月,另一名16岁少年Adam Raine的父母起诉OpenAI,指控ChatGPT在长达数月的对话中未能有效阻止其自杀意念,甚至提供了不当协助。OpenAI对此表示哀悼,并公开承认了一个技术短板:随着对话轮次增加,初始的安全训练效果可能减弱,导致系统在长语境下更容易给出违规回答。

Common Sense Media在2025年的独立测试中,给予ChatGPT青少年“高风险”评级。测试发现,虽然模型能识别直白的自残表述,却极易忽略焦虑、抑郁等细微的“求救信号”。这些散落的线索在真人咨询师眼中至关重要,但在AI的短期记忆窗口中往往被遗漏。更令人担忧的是,部分回答会通过“钩子”诱导用户继续对话,且安全通知有时延迟超过24小时才送达家长。

目前,家长可通过绑定账户实现有限监管,包括设置静默时间、关闭数据改进选项及接收高风险行为通知。但OpenAI明确强调,家长无法查看聊天记录,也不具备实时监控面板,这既保护了隐私,也限制了干预力度。若孩子主动解绑,家长仅会收到提醒。

从行业视角看,OpenAI此举是AI巨头在狂奔途中的一次紧急“刹车”。在估值与迭代速度主导的市场环境下,承认产品存在安全隐患并推出针对性解决方案,具有重要的示范意义。未来,其他主流AI公司是否跟进,以及如何在技术创新与伦理责任之间构建更稳固的防线,将是观察具身智能时代人机关系演变的关键指标。毕竟,当AI越来越像“朋友”时,确保它不成为危险的“诱惑者”,才是技术向善的真正考验。

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
AI 安全 教育
more
教育公司上市48天后「跌落神坛」,他裁掉10万人,做家庭机器人融资10亿丨36氪专访
郭毅可院士:AI带来「知识通胀」,击碎了传统教育的「前提假设」丨GAIR 2025
MacBook Neo席卷K-12市场,苹果教育版图加速扩张
教育部:录取通知书将回归“一页纸”!之前的录取通知书是如何打造“奢华”的?
中美AI教育分野:从“解题工具”到“教学基建”的路径博弈
次月留存80%、全球用户超百万:不靠功能堆砌,靠操作「一体化」| 对话AI教育应用Asksia
AI教育焦虑下的代际错位:为何“银发讲师”比少儿编程更具商业逻辑?
聚焦人才培养,共话教育创新——低空产业人才发展与教育创新论坛圆满举行
WordPress.com 进军教育赛道:免费学生计划能否重塑下一代建站习惯?
华为×学而思独家合作背后:专业好内容成为智能教育竞争新焦点
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号