For years, deepfakes were treated as a political or social media oddity, a strange corner of the internet where celebrity faces (of women 99% of the time) were pasted onto fake videos (porn in 99% of the cases) and nobody quite knew what to do about it. But that framing is now dangerously outdated, because deepfakes have quietly evolved into something much more systemic: an operational risk for corporations, capable of corrupting supply chains, financial workflows, brand trust, and even executive decision- ...

文章核心观点 - Gen公司预测2026年网络安全格局将发生五大根本性转变，其核心特征是现实与虚拟的界限模糊、合成身份的泛滥、大规模情感操纵以及浏览器成为网络犯罪的主要战场[1][3][4] 2026年网络安全五大预测趋势 - **人类需要被验证的一年**：AI技术能在数秒内克隆人脸、声音和写作风格，使欺骗行为从屏幕渗透到日常生活，合成身份（如朋友、同事、网红甚至伴侣）将以惊人的真实感出现，深度伪造将进入实时通话和互动，使信任成为负担，人类验证将成为新的安全反射[4][5] - **AI反馈循环扭曲网络真相**：互联网将进入AI驱动的失真循环，机器生成的内容被其他AI抓取、总结和重新发布，导致准确性下降并产生大量合成噪音，技术和媒体组织将开始部署真实性标记和内容签名框架以应对，但其采用速度将落后于错误信息的激增[6] - **诈骗行业演变为情感工程**：诈骗将从通用脚本转变为自适应情感引擎，AI通过实时情绪分析感知恐惧、犹豫、内疚或兴奋并即时调整话术，这种“共情诈骗”新时代通过模仿人类连接来更有效地操纵，要求人们警惕情感危险信号而不仅仅是技术漏洞[8] - **合成身份引发数字信任崩溃**：AI将能生成完整的身份套件（包括逼真的身份证、账单、自拍甚至实时视频），这些套件能通过大多数基本验证检查，犯罪分子将利用这些伪造身份大规模获取贷款、开设账户和实施跨平台欺诈，随着“身份融合”攻击在金融、税务、钱包和服务生态系统中扩散，静态凭证将不再足够[10] - **浏览器成为欺骗的主战场**：浏览器在2025年已成为受攻击最严重的环境，此趋势在2026年将加剧，AI生成的恶意广告、虚假店面、有毒弹窗和会话令牌盗窃将主导网络犯罪，点击看似银行或零售商的链接可能导致进入旨在窃取支付信息或登录凭证的AI生成克隆网站，恶意软件越来越多地存在于网页本身而非下载文件中，使得即使谨慎的用户也更难察觉[13][14] 公司及其研究背景 - 发布该预测的公司Gen是一家全球性企业，致力于通过其旗下诺顿、Avast、LifeLock、MoneyLion等受信任的消费者品牌推动“数字自由”，为全球超过150个国家的数百万人提供网络安全、在线隐私、身份保护和财务健康方面的获奖产品和服务[16] - 该预测来源于Gen内部的网络安全研究团队Gen Threat Labs，该团队专注于发现和分析全球最新的数字威胁与诈骗，其基于数据、研究和技术专长的见解为Gen旗下诺顿、Avast、LifeLock等品牌的安全技术提供支持[17]

公司知识产权拓展 - 公司宣布其知识产权组合的重大扩展，提交了三项新的美国临时专利 [1] - 这三项专利构成了其“认证现实”平台Digitalage的支柱 [1] 专利技术焦点领域 - 新专利技术主要针对人工智能驱动的虚假信息、深度伪造和创作者变现领域 [1] - 公司是美国领先的安全连接和计算领域创新者 [1]

深度伪造技术对商业的威胁与影响 - 深度伪造攻击的主要形式是针对性的身份冒充，旨在窃取资金或信息，此类攻击甚至可使成熟企业损失数百万美元，例如英国工程巨头奥雅纳去年因诈骗者使用AI生成的高管克隆体下令转账而损失了2亿港元（约2500万美元）[1] - 深度伪造已无处不在，股市并非唯一易受其影响的经济领域，诈骗者亦针对个别企业，有时旨在勒索金钱，有时仅为造成破坏，德勤2024年的一项调查显示，四分之一的受访高管表示其公司曾遭遇针对财务和会计数据的深度伪造事件[3] - 深度伪造技术能力虽仍处早期阶段，但诈骗者可用的工具已极为强大，很快在大多数情况下，人类将无法仅凭听觉或视觉线索识别出正在与深度伪造内容互动[7] 深度伪造造成的直接经济损失与市场冲击 - 2023年5月19日，一张显示五角大楼发生爆炸后浓烟滚滚的AI生成假图片在社交媒体传播，导致标普500指数急剧下跌，抹去了数十亿美元市值[5] - 此次事件标志着股市首次直接受到深度伪造影响，且很可能不是最后一次，深度伪造经济已发展成为一个75亿美元的市场，有预测称到2032年将达到385亿美元[4] - 除公开市场外，企业也面临直接诈骗，全球最大广告公司WPP曾遭遇诈骗者克隆其CEO的声音和形象，试图向同事索取资金和敏感信息[6] 企业应对深度伪造的验证成本上升 - 即使从未被直接攻击的组织最终也需为深度伪造的后果付出代价，每一份流通的深度伪造内容都提高了集体营商成本，结果是每家公司都必须承担日益增长的验证负担[8] - 企业已在加强内部安全协议以应对威胁，高德纳咨询公司预测，到2026年约30%依赖面部识别安全工具的企业将寻求替代解决方案，因为AI生成的深度伪造使此类保护形式变得不可靠[9] - 每一层额外的验证措施（如数字水印、活体生物识别工具、监管链日志、取证审查）都会增加成本、拖慢决策并复杂化工作流程，且随着深度伪造工具日益复杂，这些成本将持续上升[10] 深度伪造引发的“信任税” - 除了应对深度伪造安全威胁的直接成本外，该技术被使用的可能性本身就会侵蚀所有基于数字媒体的关系中的信任，鉴于几乎所有商业关系都依赖某种形式的数字通信，这意味着深度伪造有可能侵蚀几乎所有商业关系的信任[12] - 对电话、视频通话等基本沟通工具真实性的不确定性，将导致广泛的、弥漫性的怀疑论，渗透到职场内外每一种关系中，这种怀疑会破坏运营效率、增加交易复杂性，并在任何涉及远程沟通的任务中增加摩擦，即所谓的“信任税”[13] 企业应对深度伪造威胁的四项措施 - 验证关键信息：对官方声明使用加密签名，对高管视频和通信渠道添加数字水印，对敏感内容使用来源标签，将验证努力集中在虚假信息伤害最大的地方[14] - 建立“真相来源”中心：创建一个公开的验证页面，列出官方渠道、新闻联系人和认证方法，确保利益相关者明确知道去哪里确认信息真伪，用于快速决策的外部信息源也应通过类似认证的中心访问[15] - 开展深度伪造时代培训：进行深度伪造意识演练，并将验证素养培训纳入新员工入职、媒体培训和客户沟通中[16] - 将检测工具视为关键基础设施：投资能够实时标记被篡改媒体的工具，并将这些解决方案整合到关键工作流程中，如财务审批、人力资源面试、投资者沟通，在深度伪造时代，验证是一项核心运营能力[17] 从威胁到机遇的转变 - 企业领导者虽无法单方面解决现实感知的碎片化或社区分裂问题，但可以将其组织的行为和沟通锚定在可验证的事实上，并建立能够增加信任的体系[18] - 以这种方式逆流而上的领导者，不仅能帮助保护其组织免受深度伪造的危害，在“眼见不为实”的时代，这些企业也将成为人们在日益不确定的世界中赖以导航的灯塔[19] 立法与监管动态 - 立法是重要、必要且早该进行的，但还远远不够，深度伪造的潜在商业影响远超任何单一立法所能解决的范围[2] - 立法者已开始关注这一日益增长的威胁，2025年10月13日，加州州长加文·纽瑟姆签署了《加州人工智能透明度法案》使之成为法律，该法案最初要求大型“前沿提供者”提供工具让用户更容易识别AI生成内容，现已将要求扩展至“大型在线平台”以及内容采集设备的生产商[3]

新闻核心观点 - 深度伪造及其他人工智能生成信息对公司和其高管构成日益严重的威胁[1] 行业风险与挑战 - 人工智能技术带来新型信息威胁[1] 行业应对措施与角色 - 新闻集团首席执行官讨论可降低风险的实践方案[1] - 科技公司与媒体公司应在应对威胁中扮演重要角色[1]