人工智能在金融领域的机遇与挑战 - 人工智能技术提升金融服务效率并带来个人信息保护问题[1] - 创新需平衡进取精神与风险防控及安全维护的关系[1] - 业内专家在2024金融街论坛年会探讨AI重塑金融与安全治理[1] 大模型技术的风险表现 - 大模型工具高效处理数据并提升金融保险机构风险预测及投资管理能力[2] - 人工智能面临数据泄露、网络攻击自动化、深度伪造及模型幻觉等安全风险[2] - 风险威胁个人隐私、行业安全及国家经济稳定与金融秩序[2] 金融领域具体安全挑战 - 客户个人隐私及数据安全面临风险[3] - 需确保决策过程公正透明及可解释性并避免算法过度依赖[3] - 关注用户体验与业务价值创造以实现技术应用可行性与可持续性[3] 金融与人工智能融合趋势 - 人工智能与金融行业深度融合成为不可逆转趋势[4] - 金融管理部门需应对复杂动态环境并对政策制定执行提出更高要求[4] - 需平衡创新与风险管理关系并在不抑制创新前提下制定有效监管措施[4] 监管体系创新需求 - 传统分业经营与监管模式难以适应数字金融跨界特征[5] - 需完善金融业监管与法治生态建设并探索复合监管路径[5] - 通过统一监管框架适应不同金融业务[5] 安全治理解决方案 - 人工智能应用带来模型可解释性、公平性、责任归属及系统性风险挑战[6] - 建议制定人工智能伦理原则框架并加强可信数字内容体系建设[6] - 加强隐私保护模型推理研究并建立大模型安全理论及测评体系[6] 数据基础设施构建 - 中国移动搭建覆盖全国31省的数据交互网络并架设68个骨干核心节点[6] - 通过发布行业标准促进数据安全可信流通以解决隐私与安全顾虑[6] - 金融机构已普遍接受人工智能技术贯穿全链条与全场景应用[6]