每经评论员 陈婷 近期，多个账号在社交平台上伪造全红婵及其家人声音合成AI（人工智能）视频为商品带货，不少消 费者直呼上当。 无独有偶。今年2月，据《每日经济新闻》报道，只需花1280元，直播、视频通话能实时换成刘亦菲、 杨幂的脸。 随着AI技术的快速发展，AI深度伪造技术在过去几年经历了显著的迭代升级，几近以假乱真。在此背 景下，违法违规运用AI进行牟利的事件屡见不鲜。 长期来看，短视频平台加大对AI内容溯源、真伪鉴别等技术的研发投入，有机会在技术层面筑牢防 线，这也是提升平台自身安全和履行社会职责的现实需要。 第四，相关平台企业可与同行、技术企业、监管部门等加强合作，共同制定行业规范，合力规范AI应 用行为。 与此同时，监管部门也应强化相关黑产打击力度和对平台企业、技术企业等的监督力度。 笔者认为，AI骗术带来的乱象和影响不容忽视，相关企业不可坐视不理，必须主动亮剑，将风险防控 和伦理审查前置化。 事实上，面对AI技术潜藏的风险与挑战，作为AI产品的研发者和推广者，相关企业有机会将此类乱象 尽可能扼杀在萌芽阶段。 具体而言，笔者认为，第一，技术企业可在技术研发环节就嵌入合规红线。例如，对AI生成内容设置 ...