核心观点 - 人工智能技术被滥用于制作和传播仿冒知名人物的欺诈性内容 已成为一个引起广泛关注的行业性问题 相关公司正面临声誉受损和技术对抗的挑战 [1][3] 公司动态 - 伯克希尔-哈撒韦公司紧急澄清 在优兔平台传播的几段巴菲特发表评论的视频是人工智能伪造的欺诈性视频 并非本人录制 [1] - 自5月伯克希尔股东大会以来 巴菲特很少公开发表评论 [1] - 抖音集团副总裁李亮发文称 经核查 被曝光的演员温峥嵘被AI盗播带货的"三个直播间同时开播"案例并非发生在抖音平台 [3] - 抖音平台核查发现 平台上确实存在一些利用AI仿冒名人带货的短视频内容 [3] - 抖音平台表示会持续加大投入应对AI仿冒账号的技术对抗 以维护创作者 商家和消费者的合法权益 [3] 行业挑战 - 人工智能生成的欺诈性视频图像可能看起来像真人 但模仿者声音单调 与本人有明显差异 [1] - 这类利用人工智能技术仿冒名人的欺诈性视频正在成为一种蔓延的病毒 [1] - AI内容侵权识别被行业认为是技术难题 [3] - 利用AI仿冒名人进行带货的恶意账号在不断与平台进行技术对抗 [3]

AI仿冒侵权事件概述 - 演员温峥嵘遭遇AI换脸盗播，其形象被用于多个未授权直播间带货，本人进入直播间质问后反被拉黑[1][2] - 温峥嵘团队在一天内举报50个假冒账号，但造假账号被下架后常迅速以新形式重新出现，团队法务持续进行诉讼[2] - 抖音平台核查后表示被曝光的“三个直播间同时开播”案例并非发生在该平台，但承认平台上存在利用AI仿冒名人带货的短视频内容[1] 平台治理与处置措施 - 抖音平台依据《创作者【仿冒名人宣传】细则》，对“发**鱼”、“小**妈”等违规账号进行中断直播、下架违规商品及视频、冻结成交金额等处罚[3] - 平台专项治理共处置下架温峥嵘相关仿冒侵权视频1万余条，其中带货类视频6900余条，并对37个违规账号予以处罚[3] - 自10月专项启动以来，抖音平台已处置涉及侵权仿冒违规的达人账号1.1万个，处置仿冒名人带货的商品6700余个[9] AI黑灰产产业链分析 - 上游环节通过爬虫抓取社交平台公开图、二手设备回收提取相册、短视频平台音频提取等方式获取受害者生活照、声纹切片与3D头模[8][9] - 中游环节利用DeepFaceLab、Rope、SimSwap等技术实现人脸替换，利用Wav2Lip、SadTalker等技术进行驱动/重播，并进行对抗检测清洗[8] - 下游应用场景包括冒充熟人/领导诈骗、色情勒索、直播带货/打赏等违法犯罪行为[8][9] 技术门槛与犯罪趋势 - 在某二手交易平台上，进行人脸识别、代做视频、人脸信息提取的业务售价仅30元，技术门槛极低[6] - 生成式AI技术能力的突飞猛进及持续开源开放，使得大量工具产品问世，极大降低了不法分子的利用门槛和成本[6] - 近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈，呈显著上升趋势，犯罪行为更具迷惑性和隐蔽性[6] 行业影响与专家观点 - 抖音集团副总裁李亮强调，AI内容侵权识别是行业性技术难题，恶意仿冒账号不断与平台进行技术对抗[1] - 多位网络安全专家强调，AI攻防战役是一场需要长期投入的“猫鼠游戏”，涉及法律法规、技术手段与平台治理等多方面[1] - 瑞莱科技联合创始人萧子豪表示，生成和鉴伪的对抗性非常强，AI鉴伪产品需随生成技术的进展不断研究更新迭代，没有终点[10] 受害者账号数据与影响 - 温峥嵘抖音账号粉丝数384.1万，近三个月增长29.6%，今年以来共直播248场，场均观看人次达96.3万人[6] - 该账号上架商品共783件，场均销售额达100万-250万，所售商品品类中美妆护肤类占比54.19%[6]