AI频现情感纠纷 国内外产品如何落地未成年人模式?
21世纪经济报道·2025-09-23 07:11
21世纪经济报道记者王俊实习生向诗宇、白家诚 AI陪伴类情感纠纷正在引起广泛关注。OpenAI近日宣布加强针对青少年的安全保护措施:为18岁以下用户推出未成年人模式,并配备家长监督 功能。 事实上,青少年安全早已是AI陪伴产品绕不开的话题。过去几年,Character AI公司曾因涉及未成年人的自残与死亡事件被告上法庭。近期, Meta被曝允许AI聊天机器人与儿童谈情说爱,甚至涉及色情。 与此同时,国内的AI陪伴类产品也曾陷入争议,并陆续推出了未成年人模式。21世纪经济报道实测发现,筑梦岛 、星野、猫箱青少年模式开启 后,几乎限缩了创作、评论等大部分功能。但青少年模式并无强制认证要求,使用者可轻松避开,青少年模式几乎可以说是形同虚设。 OpenAI计划上线"家长监督"功能 此次,OpenAI针对青少年群体强化了保护机制,通过年龄预测、青少年用户的使用状态等方式判断用户是否未满18岁,从而切换到"未成年人 模式",屏蔽露骨的内容,并且在极少数出现严重不良的情况下,可能会寻求执法部门的介入,以此保证用户安全。 如果系统不能完全确认用户的年龄,例如信息不完整,这时系统会默认给用户提供青少年体验模式。同时,系统也会为 ...