Workflow
毛绒玩具挂件
icon
搜索文档
调查|当AI学会造假:实测一张“魔改图”,如何打败商家
贝壳财经· 2025-12-03 01:46
AI技术滥用冲击电商售后 - 消费者利用AI生成虚假商品瑕疵图片(如烧焦的毛绒玩具、击穿的宠物碗、腐烂的水果)申请“仅退款”或部分退款,对商家构成新型欺诈风险[1][2][7][9] - 此类行为在生鲜、服装、日用品等多个品类中均有出现,生鲜类商品因易变质、难举证的特点成为重灾区[9] - 有商家指出,平台在处理小额退款申请时审核机制存在漏洞,“只要消费者提供图片,金额较低的,几乎都会自动通过”[20] AI造假技术特征与识别难度 - AI生成图片技术快速迭代,目前主流AI应用可轻松进行“AI修图”,输入“烧焦”、“开裂”等提示词,不足10秒即可生成效果逼真的破损图片[11] - 专业测试显示,在73人参与的识别问卷中,AI假图的整体识别正确率为71.23%,但个别图片(如一件脏污羽绒服)成功骗过近半受访者,32人判断为真,28人判断为AI[11][12] - AI图片存在共性特征,如瑕疵边缘模糊、光影逻辑混乱、破坏痕迹过于平均,而人为破坏通常具有局部性和不平均的特点[18] - 测试同时发现,AI技术加剧了用户对真实图片的不信任,5张真实图片中仅有53.42%被正确判断为真,35.62%被错误判定为AI生成[14][15] 电商平台应对措施 - 京东已针对生鲜商品构建多模态AI假图识别能力,处于试运行阶段,预计年底正式上线,可识别拦截虚假凭证[20] - 抖音电商已建立相关AIGC识别能力并在测试运行中,正式上线后将实现对利用AI假图进行恶意售后行为的拦截[21] - 拼多多表示将加强售后技术支持,淘宝(天猫)称其风控系统会核实凭证真实性[20][21] - 各平台正逐步优化“仅退款”服务规则,限制平台介入判定“仅退款”的适用情形,扩大商家自主决定权[21] 行业影响与法律定性 - 利用AI伪造证据申请退款的行为被法律专家定性为民事欺诈,若骗取金额达到“数额较大”,可能涉嫌构成刑法中的诈骗罪[19] - 该行为被指扰乱市场秩序,导致商家货、款两空,并增加其核验证据和应对纠纷的成本,可能打击中小商家的经营积极性和创新能力[22][23]
AI假图,让卖家和买家都怕了
36氪· 2025-11-04 10:56
AI假图在电商领域的滥用现象 - 消费者利用AI工具生成虚假商品瑕疵图片(如发霉枸杞、带虫洞种苗)以申请仅退款 [2][3] - 部分AI假图存在明显痕迹(如保留豆包AI水印、包装文字乱码、裂缝位置不一致)但仍可能通过平台审核 [2][5] - 商家要求消费者提供商品销毁证据时,出现AI生成的虚假图片(破损袜子)和视频(出现重复右手的丢弃动作) [6] 商家使用AI假图的营销手段 - 商家使用AI生成不实商品详情图(如良品铺子将花生错误悬挂树枝、生鲜店铺使用不符合实物形态的白桃图片) [7][14] - 服装类商家批量伪造AI模特图和买家秀,导致商品与实物存在严重色差、剪裁差异且出现手指变形等AI痕迹 [11] - 电商平台已出台政策(如淘天集团禁止使用显著失真的AI合成图),但该现象仍普遍存在 [14][15] AI假图对电商行业的影响 - 仅退款规则与AI假图结合加剧商家经营压力,平台被要求取消不合理限制但治理效果有限 [6][15] - 国家网信办等部门实施《人工智能生成合成内容标识办法》,要求AI生成内容明确标识身份 [14] - 买卖双方互信度下降,需通过法规约束、平台审核机制和内容标识技术共同解决信任危机 [15]