事件背景 - 深圳小程因发布关于董明珠的虚假言论帖被格力公司起诉 法院判决其道歉并赔偿经济损失7万元 [1] - 虚假言论包括"想双休的人拿不到高薪更不值得培养"等 引发公众对格力公司及产品的抵制和负面评价 [1] AI信息核实风险 - 当事人通过权威信息检索工具和新一代顶尖大模型人工智能核实信息来源 仍引用了错误信息 [1] - 人工智能训练数据存在虚假信息问题 当训练数据集中有0.01%虚假文本时 模型输出的有害内容增加11.2% [2] - 即使仅0.001%的虚假文本也会使有害输出上升7.2% 造成递归污染和延续性的污染遗留效应 [2] AI谣言发展趋势 - AI谣言量近半年高速增长65% 其中经济与企业类AI谣言量增速高达99.91% [3] - 涉企AI谣言成为重灾区 需要技术政策执法多方协同治理 [3] 行业治理措施 - 中央网信办启动专项行动 从严打击利用人工智能生成合成技术编造虚假信息等问题 [2] - 《人工智能生成合成内容标识办法》规定AI生成内容需添加提示标识 将于下月实施 [3] - 需加强末端数据清洗 实现模型设备人员的精准溯源和治理 集中清理违法不良信息 [3]