公司AI安全体系发布 - 公司在2025年世界互联网大会乌镇峰会上首次系统性展示其AI银行安全体系 [1] - 此次发布是将AI实践从AI信贷、AI营销、AI理财领域延伸至金融安全领域 [1] - 该AI银行安全体系已稳定运行超过三年并100%覆盖所有核心业务 [3] AI时代的安全挑战 - AI时代网络攻击变得更高效和隐蔽例如AI可快速生成上万种高度个性化攻击代码 [1] - 攻击手段包括模拟人类点击习惯、说话方式以及使用AI换脸视频骗过人脸识别系统 [1] - 网络攻防本质已从人与人对抗演变为AI与AI对抗 [2] AI安全体系核心能力 - 默认安全治理技术让AI学习所有已知网络攻击形成威胁知识库实现自动免疫与拦截 [2] - 可信纵深防御系统对陌生人和陌生行为进行逐级验证确保单点突破无法绕过后续关卡 [2] - 智能威胁对抗技术可实时无限生成带随机缺口的滑块图片并使攻击方样本库失效 [2] - 智能威胁对抗技术通过分析拖动轨迹速度曲率等微观特征精准识别阻断伪装攻击 [2] 体系成效与认可 - 该体系为超过6800万用户的每一笔交易提供保障 [3] - 系统的主动免疫准确率超过99.99% [3] - 该体系在2024年获得金融科技发展奖二等奖此为中国金融行业唯一的部级科技奖项 [3] 内部攻防演练机制 - 公司内部设有专业“紫军”团队利用最前沿AI技术对自身系统进行全方位攻击 [3] - 这种以攻促防的演练机制旨在主动挖掘修复系统潜在弱点确保防御能力领先 [3] 行业目标与展望 - 公司目标是持续提升自身技术防御壁垒构建坚实安全防线 [3] - 公司希望与行业共享经验共同推动数字金融安全生态的建设 [3]

AI技术被黑产滥用的现状 - AI技术显著降低了黑产的犯罪门槛，使攻击频率在某些场景下比原来翻了10倍[7][35][36] - AI换脸技术已从去年人眼可辨的粗糙水平进化到今年人眼难以分辨的程度，利用一张静态照片即可生成动态视频通过人脸识别[21] - AI Agent被用于全自动薅羊毛攻击，可自动完成打开网页、输入账号密码、识别验证码、领取红包等操作[26][27][28] - AI Agent还可实现全自动精准钓鱼攻击，通过爬取公开信息量身定制钓鱼邮件，使诈骗进入精准化和千人千面时代[31][32][33] - 专业黑客组织已利用AI技术实施大规模攻击，例如加密货币交易平台Bybit在2月份遭受攻击损失了15亿美元[34] 金融行业AI安全防御策略 - 安全团队采用"紫军"或"蓝军"模式，主动模拟顶级黑客使用最前沿AI技术对自身系统进行无休止攻击，以建立最强防御[42][43] - 针对滑块验证码防御，创新性地使用生成式AI实时生成无限量验证码底图，使黑产传统的离线答案库（撞库攻击）彻底失效[50][51] - 构建AI安全模型通过分析上百个行为特征（如拖动速度变化、轨迹曲率、停顿点、手机传感器数据等）来区分人类与机器行为[53] - 该AI银行安全体系已运行3年，主动免疫准确率超过99.99%，通过可信纵深防御和智能威胁对抗技术实现精准拦截[53] - 安全防御的核心战略是无限抬高黑产作恶成本，使其因投入过高而放弃攻击，而非追求100%绝对安全[56][57] AI攻防战的技术本质 - 当攻防双方都使用AI技术后，比拼重点从智力转向对"人性"的模拟与识破，安全AI致力于检测行为特征而非单纯验证操作正确性[52][53] - 这场攻防战被描述为"道高一尺魔高一丈"的永无止境竞争，黑产AI不断模仿人类，而安全AI不断识破模仿[54][55][56]