联合声明核心观点 - 超过800名知名人士签署公开声明 要求立即停止超级智能的开发[1] - 超级智能被定义为在所有领域超越人类认知能力的人工智能系统[2] - 声明警告超级智能带来从经济崩溃到人类灭绝的极端风险 可能成为AI行业重大转折点[3] 声明签署方与背景 - 签署名单包含世界上最有影响力的科技领袖 科学家和公众人物 包括现代人工智能教父约书亚·班吉欧和杰佛瑞·辛顿[3] - 签名者覆盖范围远超硅谷 包括前国家安全顾问Susan Rice 前参谋长联席会议主席Mike Mullen以及英国王妃梅根·马克尔等 显示出罕见的政治团结[7] - 加州大学伯克利分校的Stuart Russell等领先的人工智能安全研究员帮助组织了这项声明[8] 行业现状与声明诉求 - 声明发布之际 Meta将其AI部门更名为"Meta超级智能实验室" OpenAI和马斯克的xAI正公开竞赛实现人工通用智能[6] - 声明呼吁全面禁止超级智能发展 直至公众强烈支持且达成广泛科学共识认为其可安全可控 此举可能有效冻结当前AI开发时间表[8] - 声明警告超级智能影响包括人类经济落伍 权力剥夺 自由尊严丧失 国家安全风险乃至人类灭绝[6] 潜在行业影响 - 当班吉欧和辛顿等奠定现代大型语言模型基础的顶级科学家呼吁"踩刹车"时 整个行业很可能会认真思考[8] - 接下来发展取决于各国政府应对 欧盟已在实施AI法规 美国在探索安全框架 请愿书为立法者对最先进AI研究实施更严格控制提供借口[8]