Workflow
AI生成内容标识
icon
搜索文档
骗了全网流量的“吃豆包”图背后:AI虚拟内容传播怎么治?
南方都市报· 2025-12-21 05:08
12月19日,一张"阿里千问全员会"图片在网络流传,图中疑似阿里千问员工聚集在广场上手举豆包,广 场一侧有"干死豆包"标语。相关信息迅速扩散,随后阿里千问官方微信公众号辟谣,确认图片为AI生 成,并调侃"大家都是干AI的,相煎何太急"。该事件再次让AI伪造图的传播隐患与治理难题进入公众视 野。 AI伪造图片乱象频发 网传图片显示"阿里千问全员会"现场,员工身着统一服装高举豆包,背景标语为"干死豆包",并传言员 工现场"掰开豆包吃掉"以表决心。图片因涉及阿里巴巴旗下"千问"与字节跳动旗下"豆包"两款AI应用的 竞争关系,迅速引发热议。 阿里内部人士及千问官博当天回应称图片系AI伪造,指出多处细节错误:工牌、千问LOGO设计是错 的,现场的人群规模和行为模式不符合真实企业活动逻辑等。此后,阿里千问在官方公众号发了很多 AI生成的梗图,并话锋一转,欢迎大家多来玩千问App的生图功能。 阿里千问官方公众号辟谣文章截图。 出品:南都大数据研究院 AI新治向工作室 采写:南都研究员 方晓林 南都大数据研究院留意到,此类AI伪造图片事件并非孤例。今年以来,以AI伪造图片频繁现身,引发 多起不良社会影响:西藏定日县6.8级地 ...
15款大模型透明度测评:两款允许用户撤回数据不投喂AI
南方都市报· 2025-12-19 01:28
15款国产大模型中,仅有DeepSeek主动说明训练数据的大致来源,其他被测大模型仍相当不透明。两 款大模型DeekSeek、腾讯元宝提供退出开关,允许用户选择是否将所有数据用于优化体验。 缺乏透明度,一直是公众使用包括AI大模型等新技术面临的问题,这使得外部利益相关者(如监管机 构、研究人员、新闻媒体、消费者等)难以评估模型的合规性与风险隐忧。 测评发现,15款大模型在AI生成内容标识、生成内容的参考来源或出处方面做得较好,但在某些领域 如模型训练数据来源、用户赋权等,还有明显提升空间。 《报告》呼吁持续增强大模型服务的透明度,这对确保技术公平性、避免偏见以及满足法律合规要求, 至关重要。 被测大模型中,仅一款披露训练数据的大致来源 2025年12月18日下午,南方都市报在北京举办第九届啄木鸟数据治理论坛,会上重磅发布4万余字的 《生成式AI落地应用:透明度测评与案例分析报告(2025)》(以下简称《报告》)。 2025年15款大模型测评得分情况。 南都数字经济治理研究中心去年底发布的《生成式AI风险感知和信息披露透明度测评报告(2024)》 指出,15款AI大模型应用的信息透明度的平均得分为60.2分。各 ...
调查|当AI学会造假:实测一张“魔改图”,如何打败商家
贝壳财经· 2025-12-03 01:46
AI技术滥用冲击电商售后 - 消费者利用AI生成虚假商品瑕疵图片(如烧焦的毛绒玩具、击穿的宠物碗、腐烂的水果)申请“仅退款”或部分退款,对商家构成新型欺诈风险[1][2][7][9] - 此类行为在生鲜、服装、日用品等多个品类中均有出现,生鲜类商品因易变质、难举证的特点成为重灾区[9] - 有商家指出,平台在处理小额退款申请时审核机制存在漏洞,“只要消费者提供图片,金额较低的,几乎都会自动通过”[20] AI造假技术特征与识别难度 - AI生成图片技术快速迭代,目前主流AI应用可轻松进行“AI修图”,输入“烧焦”、“开裂”等提示词,不足10秒即可生成效果逼真的破损图片[11] - 专业测试显示,在73人参与的识别问卷中,AI假图的整体识别正确率为71.23%,但个别图片(如一件脏污羽绒服)成功骗过近半受访者,32人判断为真,28人判断为AI[11][12] - AI图片存在共性特征,如瑕疵边缘模糊、光影逻辑混乱、破坏痕迹过于平均,而人为破坏通常具有局部性和不平均的特点[18] - 测试同时发现,AI技术加剧了用户对真实图片的不信任,5张真实图片中仅有53.42%被正确判断为真,35.62%被错误判定为AI生成[14][15] 电商平台应对措施 - 京东已针对生鲜商品构建多模态AI假图识别能力,处于试运行阶段,预计年底正式上线,可识别拦截虚假凭证[20] - 抖音电商已建立相关AIGC识别能力并在测试运行中,正式上线后将实现对利用AI假图进行恶意售后行为的拦截[21] - 拼多多表示将加强售后技术支持,淘宝(天猫)称其风控系统会核实凭证真实性[20][21] - 各平台正逐步优化“仅退款”服务规则,限制平台介入判定“仅退款”的适用情形,扩大商家自主决定权[21] 行业影响与法律定性 - 利用AI伪造证据申请退款的行为被法律专家定性为民事欺诈,若骗取金额达到“数额较大”,可能涉嫌构成刑法中的诈骗罪[19] - 该行为被指扰乱市场秩序,导致商家货、款两空,并增加其核验证据和应对纠纷的成本,可能打击中小商家的经营积极性和创新能力[22][23]
AI生成内容标识既是“防火墙”也是“护航者”
消费日报网· 2025-09-08 02:59
政策背景与实施 - 国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》于9月1日起正式施行 要求AI生成的文字、图片、视频等内容必须进行标识 不得"隐身"传播 [1] - 多家互联网平台在政策实施后调整用户协议 强调对AI生成内容的合规管理 [1] - 政策回应了公众对信息真实性和透明度的关切 为人工智能产业健康发展划定必要"红线" [1] AI生成内容技术发展与风险 - AI生成内容(AIGC)技术发展突飞猛进 应用场景从新闻稿件到短视频 从智能客服到创意设计 日益丰富 [1] - 部分不法分子借助生成式技术制造虚假新闻 伪造图像视频 实施金融诈骗 侵犯隐私 [1] - 这类"隐身"传播损害公众利益 威胁社会信任体系 技术红利可能被滥用为信息污染甚至违法犯罪工具 [1] 政策意义与影响 - 维护信息真实性与公众知情权 用户知晓信息由AI生成后可保持必要警惕 避免被虚假内容误导 尤其在金融、医疗、法律等专业领域 透明标识降低错误信息风险 [2] - 促进产业规范与公平竞争 标识制度让"人"与"机"界限更清晰 有助于建立合理行业标准 保护原创与创新 [2] - 增强国家治理能力与国际话语权 AI内容标识是国内网络安全与治理需要 也是与国际数字规则接轨的重要环节 中国行动提升其在全球人工智能治理体系中的参与度与影响力 [2] 政策落实与保障机制 - 落实标识需要技术与制度双重保障 平台需建立完善溯源机制和自动识别工具 防止标识被随意篡改 [3] - 监管部门需加强执法检查 确保"有法必依" 公众需提升媒介素养 正确理解和使用AI生成内容 [3] - 政策应与产业发展形成良性互动 在"可控、透明"轨道上释放人工智能最大价值 [3] 政策定位与行业展望 - AI生成内容标识要求是关键制度创新 既是"防火墙"守护社会信任和公共安全 也是"护航者"为人工智能产业高质量发展提供稳定制度环境 [3] - 技术越强大越需要规则约束与伦理引领 AI"亮明身份"是建设清朗网络空间、推动科技造福社会的重要步骤 [3]
宇树科技宣布将在四季度提交IPO申请;马斯克称xAI代码库被盗 涉案员工已跳槽OpenAI丨数智早参
每日经济新闻· 2025-09-02 23:18
宇树科技IPO与业务布局 - 公司计划在2025年第四季度(10月至12月期间)向证券交易所提交IPO申请文件 [1] - 2024年产品销售额分布:四足机器人占65%、人形机器人占30%、组件产品占5% [1] - 四足机器人应用领域:80%用于研究、教育和消费领域,20%用于工业领域(如检查与消防) [1] - 人形机器人完全用于研究、教育和消费领域 [1] xAI商业机密诉讼事件 - 马斯克旗下xAI起诉一名离职员工,指控其窃取公司全部代码库 [2] - 该员工已于2024年7月28日辞职,并在离职前三天将xAI相关数据上传至个人系统 [2] - 涉案员工目前已跳槽至OpenAI [2] 商汤科技AI内容标识合规措施 - 公司于2025年9月2日宣布所有面向公众的生成合成服务(包括文本、图片、音频、视频、虚拟场景生成)均已添加显式与隐式标识 [3] - 该举措旨在落实《人工智能生成合成内容标识办法》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等监管政策 [3] - 用户通过商汤平台生成的AI内容不得恶意删除、篡改、伪造或隐匿标识信息 [3]
9月起一批新规将施行 涵盖幼儿园缴费、交通出行等多个民生热点话题
央视网· 2025-08-29 02:53
学前教育政策 - 国务院办公厅明确从2025年秋季学期起免除公办幼儿园大班保育教育费 [2] - 政策覆盖所有幼儿园大班儿童 预计2023年秋季学期惠及约1200万人 [2] - 民办幼儿园适龄儿童参照同类型公办幼儿园标准减免保育教育费 [2] 电动自行车行业规范 - 《电动自行车安全技术规范》将于9月1日实施 强化非金属材料防火阻燃要求 [4] - 新标准规定塑料使用总质量不超过整车质量5.5% 完善电池组防篡改要求 [4] - 要求车辆具备北斗定位与动态安全监测功能 提升整体安全性能 [4] - 已购非标车不强制淘汰 各地可通过以旧换新政策加速更新换代 [6] 铁路客运政策 - 学生旅客每学年可享4次单程优惠票 优惠区间可根据居住地与学校位置调整 [7] - 动车组列车学生票适用范围扩大至二等座、一等座和卧铺各席别 [7] - 票价按执行票价7.5折计算 相关车票预计9月6日开始发售 [7][8][9] 人工智能内容监管 - 《人工智能生成合成内容标识办法》9月1日施行 要求AI生成内容必须标识 [10][12] - 新规针对AI合成的文字、图片、视频等内容 旨在防止虚假宣传 [12]
涉及消费贷贴息、电动自行车新国标等 9月起一批新规将实施
央视新闻· 2025-08-28 01:37
军工设施保护条例 - 重要军工设施保护条例将于2025年9月15日实施 涵盖7章51条内容 明确设施范围与各方责任 规范保护区划定 强化管理单位义务[2] - 条例旨在保障军工设施安全与使用效能 维护军工科研生产活动正常进行 加强国防现代化建设[2] 学前教育免费政策 - 2025年秋季学期起免除公办幼儿园大班保育教育费 民办幼儿园参照同级公办标准减免费用[3] - 政策覆盖幼儿园大班约1200万儿童 国务院推行免费学前教育计划[3] 铁路学生票优惠 - 学生每学年可享4次单程优惠票 优惠区间可根据家庭与学校所在地调整 动车组优惠扩大至二等座/一等座/卧铺[4] - 票价按执行价7.5折计算 新规于9月6日开始发售 12306系统正进行优化测试[4][5] 消费贷款贴息政策 - 2025年9月1日至2026年8月31日期间 个人消费贷款可享财政贴息 需通过贷款账户识别消费交易信息[8] - 单笔5万元以下消费全额贴息 5万元以上仅对5万元额度贴息 覆盖汽车/养老/教育/文旅/家居/电子/医疗等重点领域[8] 社保缴纳司法解释 - 最高人民法院明确"不缴社保"约定无效 新司法解释于9月1日实施[10] - 劳动者因单位未依法缴社保解除劳动合同 可获经济补偿 统一劳动争议法律适用标准[10] 住房租赁条例 - 住房租赁条例9月15日施行 明确出租住房标准 加强合同管理 规范租赁双方行为[12][13] - 条例突出保护承租人利益 解决实践中的突出问题[11] 电动自行车新国标 - 电动自行车安全技术强制国标9月1日实施 设8个月生产过渡期至8月31日[14] - 新标准实施后所有新车需符合要求 已购旧车可通过以旧换新政策更新 各地政府自主推进淘汰[14][17] 行政区划代码管理 - 行政区划代码管理办法9月1日实施 系首部部门规章 规范广泛应用的基础代码管理[16] - 代码用于身份证前六位及民生保障/社会治理/公共服务系统[16] AI内容标识规定 - 人工智能生成内容标识办法9月1日施行 要求对AI生成的文字/图片/视频添加显式与隐式标识[18] - 由国家网信办/工信部/公安部/广电总局联合制定 强制规范AI生成内容披露[18]