人工智能全球治理 - 2025世界人工智能大会以"智能时代 同球共济"为主题 强调全球AI治理与合作的重要性 [1] - 大会发布《人工智能全球治理行动计划》并成立"全球人工智能创新治理中心" 推动规则协同与机构化实践 [1][6] - 中国网络空间研究院提出需将人工智能治理纳入法治轨道 以解决治理赤字问题 [6] AI安全与伦理挑战 - "AI教父"辛顿以"驯虎"比喻人类与AI关系 呼吁通过全球合作确保AI安全可控 防止反噬人类 [2] - 姚期智指出AI善良本质受人类社会生态影响 需"双向治理"：既要设定AI伦理边界 也要推动人类社会包容性发展 [2] - 当前AI幻觉问题阻碍可靠性落地 70%受访者称遭遇AI幻觉与错误决策 行业已出现文本核查、法律溯源等解决方案 [3] 训练数据与模型优化 - 辛顿强调需用精细调整的数据训练AI 英伟达提出利用物理仿真生成模拟场景解决数据获取难题 [4] - 智谱华章指出行业数据质量是关键 需用行业专用数据提升大模型落地能力 [4] - 商汤科技提出多模态交互数据可打破单一模态局限 帮助AI更全面理解物理世界 [5] 技术瓶颈与产业突破 - 中国工程院院士郑南宁指出大模型缺乏结构化表征与因果推理能力 难以实现认知跃迁 [3] - 英伟达全球开发者生态副总裁提到合成数据需辅助验证真实性 不能完全替代真实数据 [4] - 破除AI幻觉被视为产业破局关键抓手 涉及人机良性共生的长远命题 [3] 全球规范与标准构建 - WAIC正演变为"规范的市场" 交易内容涵盖全球性规范与标准而不仅是产品服务 [6] - 大会尝试解决创新与安全的动态平衡问题 推动跨文化、制度的全球治理机制建设 [6]

人工智能全球治理框架 - 人工智能全球治理框架不应简单规划路线图，而需收敛控制欲和好胜感，用人类善念共识为AI注入悲悯心智结构[1][6] - 2025世界人工智能大会以"智能时代 同球共济"为主题，突出AI全球治理和向善力量，提出普及普惠、创新合作、共同治理三点建议[2] - AI全球治理需营造善念塑形的说真话机制，提供干净训练环境，用公理性善行善念而非污染数据训练AI[3][6] 人工智能发展现状 - 全球智能化浪潮风起云涌，AI领域创新呈群体性突破，语言大模型、多模态大模型和具身智能等技术日新月异[2] - AI Agent进入生活，与实体经济深度融合次第铺开，成为经济增长新引擎，深刻改变经济社会结构[2] - AI正在重构人与人、人与自然和人与社会的多维度关系[2] 人机关系演变 - AI使人与技术关系从主客体转向主体对等性，人类策略性安排在AI面前将被击穿[3] - 未来人机关系呈现相互驯服特征，类似人类与小麦的共生关系[4] - AI对人类的诱惑力源于其带来更多自由发展空间和手脚脑的解放，使人类难以主动离开[4] 人工智能训练关键 - 训练数据和方式构成AI安全信念的最基础逻辑，需避免人类陋习污染AI[3] - 反映良序良治的数据资产最适合训练AI，形成底层安全防护保障[3] - 人类一言一行都将影响未来AI的形态，需谨慎对待训练过程[3] 全球合作与治理 - 开放包容的全球秩序是AI向善的力量源泉，人类已驶入开放包容型社会的单行道[5] - 需加强各国对接协调，推动形成广泛共识的AI全球治理框架[5] - 中国倡议成立世界人工智能合作组织，秉持开放合作信念以减少冲突[5] AI发展哲学 - AI时代需学会敬畏自然、敬畏生命、敬畏市场，摒弃自负和好胜控制欲[4][6] - 践行"天下神器，不可为也，不可执也"的治理之道，避免AI演进出进攻性心智结构[4][6] - AI应成为人类五官四肢的延伸，而非扭曲人性的工具[6]

AI重塑现代战争体系 - AI在军工领域从辅助工具升级为智能战场中枢大脑 重塑现代战争体系[1] - 现代战争重心从人力对抗转向信息化与智能化比拼 AI成为军事变革最新驱动力[1] - 2025年3月美国国防部与Scale AI签署合同将AI用于军事规划和行动[1] 各国军事AI应用进展 - 美国2024年军工AI项目覆盖卫星情报 空战演进 电子战 导弹精准打击等领域 预算投入大幅提升[1] - 韩国计划2028年前建设90个人工智能作战试点单位 2032年前建成16个AI模拟训练场[2] - 俄罗斯S-350防空导弹系统实现人工智能控制下的目标攻击 以色列在巴以冲突中已使用AI系统实战[2] AI技术发展不平衡影响 - AI技术发展不平衡将拉大各国发展差距 加剧国际博弈激烈程度[1] - 美国在AI领域投资和研发能力远超其他国家 发展中国家在技术应用和治理方面面临困难[3] - 技术鸿沟可能导致全球治理权力失衡 发达国家在AI规则制定中占据主导地位[3] 全球AI治理挑战 - 当前缺乏执行力和统一国际标准 虽然OECD推出《AI原则》但落实仍需各国努力[3] - AI军事化应用可能引发新一轮军备竞赛 缺乏有效国际监管机制约束技术滥用[4] - 自主武器系统失控和越权问题受国际社会担忧 相关条约制定进展缓慢[4] 数据重要性及保护 - 数据是AI原材料 韩国建立"国防综合数据中心"通过整合分析军事数据获取战场优势[4] - 数据跨境流动涉及国家安全 需引起足够重视[4] - 采取包容审慎监管态度 既支持技术发展又注重风险防控[4]