毛绒玩具挂件“贝儿”
搜索文档
当AI学会造假:实测一张“魔改图”,如何打败商家
新京报· 2025-12-03 01:23
文章核心观点 - AI生成虚假商品瑕疵图片被部分消费者用于电商平台恶意申请退款 已成为冲击电商交易信任的新型技术滥用行为 头部电商平台正积极研发并即将上线AI假图识别技术进行反制 [1][9][16] AI假图恶意退款现象与案例 - 有消费者使用AI生成的“火烧毛绒玩具”图片 成功向商家索要50元退款 商家起初未能识别 后经朋友提醒并使用AI检测工具发现破绽 [1][2] - 有消费者提供AI生成的“击穿版”宠物碗图片要求退款 商家通过破损形态不符合常理(如“四分五裂”)及消费者强硬态度等线索识破 [6] - 有消费者为价值9.89元的衬衫申请退款 连续提供多张“漫画风”AI生成破洞图片 在商家多次指出AI痕迹后承认试图骗退款 [7] - 生鲜类商品因易变质难举证成为AI假图骗局重灾区 有水果商家表示发货时为青果不会熟烂 可凭经验判断图片为AI伪造 [6] AI假图的技术门槛与识别难度 - AI修图技术门槛低且速度快 记者实测使用主流AI应用输入“烧焦”“开裂”等提示词 不足10秒即可生成与真实案例类似的假图 [9] - 记者组织的问卷调查显示 在已知混有AI图片的前提下 73名受访者对11张AI假图的整体识别正确率为71.23% 但仍有21.54%的人误判为真 [10] - 个别AI图片迷惑性极强 如一张脏污羽绒服图片 有32人判断为真 28人判断为AI 13人拿不准 成功“骗过”过半受访者 [11] - AI技术加剧了对真实图片的不信任 问卷中5张真实破损图片 仅53.42%被判断为真 35.62%被误判为AI图片 [12] - 一张真实的香蕉腐烂延时摄影截图被严重误判 73人中仅6人认为图片为真 误判概率高达10:1 [13] - 目前AI生成带文字包装的物品图片时易出现错字、变形等破绽 且AI生成的损坏往往“很平均” 而人为破坏通常集中于一点 但这些差异可能随技术迭代而缩小 [14] 电商平台的应对措施与规则调整 - 京东表示已针对生鲜商品构建多模态AI假图识别能力 正处于试运行阶段 预计年底正式上线 该平台对普通商品不提供“仅退款” [16] - 抖音电商已建立相关AIGC(人工智能生成内容)识别能力 正在测试运行 正式上线后将能拦截利用AI假图的恶意售后行为 [17] - 拼多多与淘宝(天猫)均表示高度重视此类问题 将加强售后技术支持与风控系统核实凭证真实性 [16][17] - 电商平台已逐步优化调整“仅退款”服务规则 限制平台介入判定“仅退款”的适用情形 扩大商家自主决定权 [17] 行业影响与专家观点 - 利用AI伪造证据“薅羊毛”的行为涉嫌欺诈 侵害商家和平台财产权益 违背《民法典》诚实信用原则 情节严重可能构成诈骗罪 [15] - “仅退款”黑灰色产业对电商生态造成全方位破坏 扰乱市场秩序 导致商家货、款两空并增加纠纷处理成本 可能打击中小商家经营积极性 [18] - 长期来看 商家为对冲风险可能提高定价或收紧售后政策 最终损害合规消费者权益 并破坏公平交易的市场环境 [18] - 应对此挑战需多方协同 包括监管部门完善法规、平台优化审核与技术、商家加强证据留存与信息共享、以及消费者诚信参与 [18][19]