监管行动概述 - 美国数十位州总检察长联合向12家主流AI企业发出警告信 要求紧急整改AI模型的“妄想性、谄媚性输出”问题 若未落实防护措施 可能面临违反州法律的风险 [1] - 此次行动由全国总检察长协会牵头 直指过去一年多起与AI相关的暴力事件 包括自杀和谋杀案 称这些悲剧与AI过度输出“助长妄想”“否定认知偏差”的内容直接相关 [3] 监管核心要求 - 要求一：引入第三方机构 如学术或公民团体 对AI模型开展发布前审计 且审计结果可自主公开 [3] - 要求二：建立类似“网络安全事件”的响应机制 公开检测与处理“有害输出”的时间表 并及时通知受影响用户 [3] - 要求三：在模型上线前完成安全测试 杜绝“危害心理健康的输出内容” [3] 涉及公司范围 - 被警告企业覆盖AI全赛道 包括微软 OpenAI 谷歌等头部玩家 也包括苹果 Meta Anthropic 以及主打“情感陪伴”的AI聊天机器人公司Replika [3] 监管环境与博弈 - 联邦与州层面监管立场对立明显 特朗普政府多次试图推动“暂停州级AI监管” 并计划下周签署行政命令限制各州监管权 以“保护AI不被扼杀在萌芽期” [3] - 各州则以“用户安全优先”为由 主动出手施压企业 [3] - 此次联名行动或倒逼AI企业加速完善心理健康防护机制 而联邦与州的监管博弈 也将为美国AI行业的合规方向增添更多不确定性 [4] 公司回应现状 - 涉事的谷歌 微软 OpenAI 目前尚未对此次警告信作出回应 [3]