深度伪造技术对商业的威胁与影响 - 深度伪造攻击的主要形式是针对性的身份冒充，旨在窃取资金或信息，此类攻击甚至可使成熟企业损失数百万美元，例如英国工程巨头奥雅纳去年因诈骗者使用AI生成的高管克隆体下令转账而损失了2亿港元（约2500万美元）[1] - 深度伪造已无处不在，股市并非唯一易受其影响的经济领域，诈骗者亦针对个别企业，有时旨在勒索金钱，有时仅为造成破坏，德勤2024年的一项调查显示，四分之一的受访高管表示其公司曾遭遇针对财务和会计数据的深度伪造事件[3] - 深度伪造技术能力虽仍处早期阶段，但诈骗者可用的工具已极为强大，很快在大多数情况下，人类将无法仅凭听觉或视觉线索识别出正在与深度伪造内容互动[7] 深度伪造造成的直接经济损失与市场冲击 - 2023年5月19日，一张显示五角大楼发生爆炸后浓烟滚滚的AI生成假图片在社交媒体传播，导致标普500指数急剧下跌，抹去了数十亿美元市值[5] - 此次事件标志着股市首次直接受到深度伪造影响，且很可能不是最后一次，深度伪造经济已发展成为一个75亿美元的市场，有预测称到2032年将达到385亿美元[4] - 除公开市场外，企业也面临直接诈骗，全球最大广告公司WPP曾遭遇诈骗者克隆其CEO的声音和形象，试图向同事索取资金和敏感信息[6] 企业应对深度伪造的验证成本上升 - 即使从未被直接攻击的组织最终也需为深度伪造的后果付出代价，每一份流通的深度伪造内容都提高了集体营商成本，结果是每家公司都必须承担日益增长的验证负担[8] - 企业已在加强内部安全协议以应对威胁，高德纳咨询公司预测，到2026年约30%依赖面部识别安全工具的企业将寻求替代解决方案，因为AI生成的深度伪造使此类保护形式变得不可靠[9] - 每一层额外的验证措施（如数字水印、活体生物识别工具、监管链日志、取证审查）都会增加成本、拖慢决策并复杂化工作流程，且随着深度伪造工具日益复杂，这些成本将持续上升[10] 深度伪造引发的“信任税” - 除了应对深度伪造安全威胁的直接成本外，该技术被使用的可能性本身就会侵蚀所有基于数字媒体的关系中的信任，鉴于几乎所有商业关系都依赖某种形式的数字通信，这意味着深度伪造有可能侵蚀几乎所有商业关系的信任[12] - 对电话、视频通话等基本沟通工具真实性的不确定性，将导致广泛的、弥漫性的怀疑论，渗透到职场内外每一种关系中，这种怀疑会破坏运营效率、增加交易复杂性，并在任何涉及远程沟通的任务中增加摩擦，即所谓的“信任税”[13] 企业应对深度伪造威胁的四项措施 - 验证关键信息：对官方声明使用加密签名，对高管视频和通信渠道添加数字水印，对敏感内容使用来源标签，将验证努力集中在虚假信息伤害最大的地方[14] - 建立“真相来源”中心：创建一个公开的验证页面，列出官方渠道、新闻联系人和认证方法，确保利益相关者明确知道去哪里确认信息真伪，用于快速决策的外部信息源也应通过类似认证的中心访问[15] - 开展深度伪造时代培训：进行深度伪造意识演练，并将验证素养培训纳入新员工入职、媒体培训和客户沟通中[16] - 将检测工具视为关键基础设施：投资能够实时标记被篡改媒体的工具，并将这些解决方案整合到关键工作流程中，如财务审批、人力资源面试、投资者沟通，在深度伪造时代，验证是一项核心运营能力[17] 从威胁到机遇的转变 - 企业领导者虽无法单方面解决现实感知的碎片化或社区分裂问题，但可以将其组织的行为和沟通锚定在可验证的事实上，并建立能够增加信任的体系[18] - 以这种方式逆流而上的领导者，不仅能帮助保护其组织免受深度伪造的危害，在“眼见不为实”的时代，这些企业也将成为人们在日益不确定的世界中赖以导航的灯塔[19] 立法与监管动态 - 立法是重要、必要且早该进行的，但还远远不够，深度伪造的潜在商业影响远超任何单一立法所能解决的范围[2] - 立法者已开始关注这一日益增长的威胁，2025年10月13日，加州州长加文·纽瑟姆签署了《加州人工智能透明度法案》使之成为法律，该法案最初要求大型“前沿提供者”提供工具让用户更容易识别AI生成内容，现已将要求扩展至“大型在线平台”以及内容采集设备的生产商[3]