黑箱模型

搜索文档
港大马毅外滩大会演讲:人工智能应从“黑箱”走向“白箱”
新浪科技· 2025-09-11 07:09
人工智能技术现状 - 当前人工智能技术蓬勃发展但缺乏对智能本质的科学理解 [2] - 人工智能系统仍依赖试错和不可解释的黑箱模型 [2] - 以大模型为代表的AI处于最初级的种系智能阶段 依赖海量参数与预训练数据 [2] 智能演化阶段 - 智能演化分为四个阶段:DNA种系遗传智能、生物个体发育智能、语言群体智能和真正人工智能 [2] - 生命进化本质是智能机制的启动 [2] - 当前AI仍处于种系智能阶段 存在资源消耗高和效率低的问题 [2] 智能核心缺陷 - 当前大模型仅是静态知识存储库 无法理解内容导致基础逻辑混乱和幻觉问题 [2] - 智能核心在于自我验证与自我纠错能力 而现系统缺乏个体记忆与自我意识 [2] - 虽然拥有海量知识但不具备真正智能 [2] 未来发展路径 - 需将智能作为严谨科学数学课题研究 聚焦个体记忆与闭环自治系统构建 [3] - 应在可解释理论框架下推动机器智能向自主智能演进 [3] - 必须将AI从黑箱转变为基于数学原理与闭环反馈的白箱模型 [2]