微软AI高管承诺:若超级智能威胁人类,就停止开发

微软AI战略与伦理立场 - 微软消费人工智能主管Mustafa Suleyman承诺,若超级智能对人类构成威胁,将立即停止相关开发工作,并致力于打造“与人类利益相符”的系统 [1] - 该主管认为“不会继续开发有可能失控的系统”应成为行业共识,并指出微软的伦理立场在行业中具有独特性 [1] 微软与OpenAI关系重塑 - 微软与OpenAI在去年10月达成协议,重塑了双方关系,使微软获得了此前受限的开发权,包括通用人工智能和超级智能 [1][2] - 此前微软因合同条款限制无法开发通用人工智能或超级智能,作为交换,微软为OpenAI建设和配备数据中心 [2] - 协议调整后,微软有权开发自己的AI,Suleyman称过去18个月公司已是AGI开发机构,现在可以研究在所有任务上超越人类表现的技术 [2] MAI超级智能团队目标 - Suleyman于11月宣布成立并亲自领导MAI超级智能团队,明确将构建“仅为服务人类而设计”的实用技术 [1][2] - 该团队聚焦医疗诊断、教育等领域的实际问题,而非“不明确且空灵的超级智能” [2] - 团队首个目标是开发在医疗诊断等特定领域能力远超人类的AI,旨在实现全方位诊断的专家级表现及临床运营环境中的高规划预测能力 [3] 行业竞争与公司策略 - 微软的举措呼应了Meta等竞争对手在超级智能领域的类似努力 [3] - Suleyman强调微软“不会不惜一切代价、不设限制地构建超级智能”,以回应投资者对AI支出回报路径的担忧 [3] - 微软持续降低对OpenAI的依赖,已开始使用谷歌和Anthropic的模型,并持有OpenAI重组后的1350亿美元股权 [4] 技术发展现状 - 尽管畅谈超级智能愿景,但当前技术仍在发展中,类似ChatGPT的AI系统距离满足消费者和企业期望仍有差距 [4] - 微软Copilot消费助手的智能代理功能“并非总是准确”,仍处于开发试验阶段 [4]