文章核心观点 - OpenAI最新研究揭示语言模型幻觉产生的根本原因在于其统计学习本质，且后训练过程在当前评估体系下未能有效抑制幻觉，GPT-5可能通过非二元评估技术显著降低幻觉率 [9][12][24][32] 幻觉产生的必然性 - 幻觉是语言模型预训练阶段不可避免的副产品，因模型本质是通过统计规律生成内容，而非真实判断 [11][12] - 模型通过"是否有效"（IIV）判断器评估句子概率，但面对数据稀疏、复杂概念或训练数据错误时必然失效 [13][14] - 生成模型的错误率至少是IIV判断器错误率的2倍，因单个判断错误会衍生多种幻觉（如1+1=3和1+1≠2均属幻觉） [15][16] 后训练的局限性 - 后训练通过偏好反馈改变概率分布，将概率集中到"最佳答案"以减少不确定性幻觉，但可能增加过度自信风险 [19][20] - 主流评估基准（如GPQA、MMLU-Pro、SWE-bench）采用二元评分制，仅区分正确（1分）或错误（0分），系统性地惩罚"我不知道"的回答 [21][23] - 当前评估标准奖励猜测行为而非诚实回答，导致后训练在实践中未能有效引导模型降低幻觉 [24] 模型性能对比与技术路径 - DeepSeek R1采用二元奖励模型（ORM），在Vectara HHEM测试中幻觉率达14.3%，远高于其预训练模型DeepSeek V3的3.9% [30][31] - OpenAI o3使用过程奖励模型（PRM），通过逐步推理反馈降低幻觉率至6.8%，仅为DeepSeek R1的一半 [32] - GPT-5可能引入Universal Verifier技术，采用非二元评估标准（如评分细则Rubric），从根源上减少二元激励的负面影响 [32] 解决方向 - 后训练需引入带惩罚的评分机制，例如答对得1分、答错扣1分、过度自信答错扣9分，迫使模型成为"风险评估器"而非"得分优化器" [33] - 模型需专注于真实性而非单纯得分优化，才可能从根本上解决幻觉问题 [34]

行业人才动态 - 顶尖AI人才姚顺雨从OpenAI离职的传闻引发行业高度关注，尽管腾讯已正式辟谣其入职消息[1] - 年仅27岁的姚顺雨拥有清华姚班本科和普林斯顿博士背景，是OpenAI智能体核心项目的深度参与者[5][7] - 其离职预示着全球AI人才生态正在发生更深层的迁徙与重组[6] 人才价值评估 - 行业传闻其可能获得高达1亿人民币的天价薪酬包，参照Meta为OpenAI核心研究员开出1亿美元报价的案例[3] - 作为OpenAI Deep Research的核心贡献者，姚顺雨的学术影响力显著，个人总引用次数达15,253次，h指数为24[11][12] - 其主导研究的ReAct论文引用4,354次，思维树论文引用4,022次，在语言智能体领域具有重要地位[12] 技术研究方向 - 姚顺雨专注研究语言智能体与数字自动化，参与开发了Operator、Deep Research及Computer-using Agent等OpenAI首批智能体产品[5][11] - 提出"评测将比训练更重要"的观点，认为AI下半场需从解题转向命题，重视定义问题与设定指标[18][19] - 强调AI发展需更靠近产品经理角色，通过测评定义真实世界中的可度量价值[20][21] 公司战略布局 - OpenAI通过智能体产品实现从"会聊天"到"会办事"的关键跃迁，代表其迈向AGI Level 3的重要一步[4] - 智能体人才的流向可能决定AI下半场的竞争格局，各大公司正积极争夺核心研究人员[1][3]

行业投资评级 - 报告未明确给出具体的行业投资评级 [1][2][3][4][5][6] 核心观点 - 图灵奖得主理查德·萨顿提出AI发展正进入"经验时代"，强调自主交互与环境反馈为核心，强化学习与多智能体协作是实现该愿景的关键路径 [1] - 当前机器学习多数局限于对人类已有知识的静态迁移，真正能创造新知识的系统需依靠智能体在与环境直接交互中持续生成数据 [1] - 社会对AI偏见、失业及生存风险的担忧被过度放大，应通过多智能体协作机制实现共赢 [1] - 萨顿提出"四条预测原则"：价值观多元共存、人类将深入理解并创造智能、超级AI或人机增强系统终将超越人类智力、权力与资源将向最高效智能体集中且"替代"成为必然 [1] - 宇宙演进被划分为粒子、恒星、复制者与设计四个时代，人类核心使命在于推进"设计"，AI是迈向"设计时代"不可或缺的动力 [1] 技术范式转变 - 数据定义从静态人类语料转变为动态智能体-环境交互轨迹，意味着学习目标与系统架构的根本重构：从被动拟合数据分布转向主动预测并控制自身观测输入的能力 [2] - AlphaGo自我博弈与AlphaProof生成式推理被视为"经验优先"方法论的有效验证 [2] - 产业落地需将模型从"信息消费"角色转变为可与环境实时交互、闭环试错并持续积累能力的"智能作用体" [2] - 企业需构建具备高频交互、在线评估与能力沉淀功能的智能体运营（Agent-Ops）体系，以实现新知识自动生成与跨任务迁移 [2] 技术瓶颈与研发重点 - 强化学习核心瓶颈并非模型参数规模，而在于时间维度与任务序列处理能力，具体表现为持续学习与元学习两大短板的制约 [3] - 持续学习需克服灾难性遗忘，实现动态表征与非平稳环境中的稳定收敛；元学习要求模型具备跨任务快速迁移与重组能力，训练评估单位需从"样本"升级为"任务" [3] - 这两项能力决定系统是否具备长期演进与泛化复用潜力：缺乏则仅适用于封闭短周期任务，突破则有望在开放环境中越用越强 [3] - 企业研发重心应从追求单点性能突破（SOTA）转向构建长周期评估体系、非平稳任务基准，以及推进记忆机制、规划架构与探索策略的工程化与系统集成 [3] 多智能体协作与治理 - "去中心化协作"不仅是技术架构选择，更是关乎系统治理机制的重要命题，需将机制设计理念引入AI系统工程实践 [4] - 多智能体协作类比市场与政府分工机制，其有效运作依赖明确激励、透明协议及可验证合约的支撑 [4] - 若"权力与资源向最高效智能体集中"成为趋势，需构建三方面基础制度：开放接口与可组合协议防范垄断、合作与对抗并存的博弈测试体系避免激励扭曲、可审计可追溯的责任认定工具量化协作外部性 [4] - 缺乏系统性治理设计，"去中心化"易流于概念，难以实现可持续可信赖的协作生态 [4] 人机协作与组织变革 - AI替代集中于任务层级而非完整岗位，企业应主动推进任务解构与流程重组，系统化布局人机协作体系 [5] - 具体路径包括：制定明确的人机分工框架形成"人类决策—AI探索—AI执行—人类审计"闭环机制、构建经验采集与策略回灌体系将交互数据沉淀为可复用策略资产、改革绩效管理机制以协同效率为导向的KPI替代单一产出指标 [5] - 该体系顺应AI替代带来的效率提升需求，为可持续人机协同提供制度化抓手，有助于企业在智能化转型中保持竞争力和控制力 [5]

大会概况 - 2025 Inclusion·外滩大会在上海黄浦世博园区开幕，主题为“重塑创新增长”，来自16个国家和地区的550位嘉宾参会 [1] - 大会聚焦“金融科技”“人工智能与产业”“创新创投生态”“全球对话与合作”“负责任创新与普惠未来”五大内容主线，设置1场开幕主论坛和44场见解论坛 [1] - 大会被誉为“亚洲三大金融科技盛会”之一，以其开放、多元、前瞻性吸引全球目光 [1] 人工智能发展趋势 - 图灵奖得主理查德·萨顿认为人类数据红利正逼近极限，人工智能正在进入以持续学习为核心的“经验时代”，潜力将远超以往 [1][2] - “经验”指的是观察、行动和奖励三种信号的交互，知识来自于经验，智能体的智能程度取决于其预测并控制自身输入信号的程度 [2] - 释放“经验时代”全部潜力需要持续学习（continual learning）和元学习（meta-learning）两项关键技术 [2] - 人工智能被视为宇宙演化的必然下一步 [3] 具身智能与机器人产业 - 宇树科技创始人王兴兴表示，随着大模型发展，AI与机器人结合正催生全新的具身智能产业，目标是让机器人拥有AGI能力 [4] - 当前具身智能发展面临高质量数据及模型算法层面的挑战，但目前被视作大规模爆发性增长的前夜 [4] - 建议年轻创新者忘记过去经验，学习最新知识，全力拥抱新时代，认为创新创业门槛已大幅降低 [4] 金融科技公司动态 - 蚂蚁集团通过战略投资涉足多个科技领域，例如今年6月投资哈啰以切入智能驾驶，并在医疗、智能体和机器人公司背后有深入布局 [5][6] - 支付宝数字政务团队发布全新政务AI助手“晓政”，融合DeepSeek、通义千问、蚂蚁百灵三种大模型 [6] - 蚂蚁数科推出“智能代理合约（Agentic Contract）”，将在其新一代Layer2区块链Jovay上原生部署 [6] - 中国银行保险报联合OceanBase海扬数据库与19家银行编委机构发布报告，指出一体化数据库是中小银行应对系统国产升级与AI规模化落地的“最优解” [6] - 外滩大会上的展示证明蚂蚁是一家纯血金融科技公司，持续走在技术最前沿 [5][6]

估值120亿美元的Thinking Machines发布首篇研究博客 - 公司估值达120亿美元 创始团队多来自OpenAI 首款产品命名为Connection Machine [1] - 研究团队通过改进RMSNorm 矩阵乘法和注意力机制实现完全可复现的推理结果 性能损失可接受 [1] - 解决LLM推理中的非确定性问题 核心是批次不变性 [1] OpenAI ChatGPT支持MCP协议 - OpenAI宣布ChatGPT正式支持MCP Plus和Pro用户可一句Prompt实现自动化操作 [2] - MCP实现AI模型 工具和数据源的标准化交互 使不同模型能共享上下文 支持即插即用 [2] - 用户可通过开启开发人员模式连接第三方服务如Stripe 完成复杂任务 [2] 微信推出混元大模型智能回复功能 - 微信公众号推出由腾讯混元大模型支持的智能回复功能 解决运营者无法及时回复读者问题 [3] - 功能可自动学习公众号历史文章和回复风格 回复内容会标注该消息为智能回复 并可引用相关历史文章 [3] - 腾讯混元还将上线Roleplay模型和AI分身应用 提供沉浸式对话体验 [3] Kimi开源万亿参数模型中间件 - Kimi开源新中间件checkpoint-engine 能在20秒内完成万亿参数模型在数千GPU上的更新 [4] - 采用混合共置架构 通过分布式检查点引擎管理参数状态 实现参数广播和重载并行处理 [4] - 系统设计支持训练和推理引擎完全解耦 采用参数逐条更新的流水线方式 可抵御单点故障 [4] 英伟达发布文本驱动3D模型生成AI - NVIDIA发布新AI Blueprint 通过生成式AI技术让3D艺术家快速创建场景原型 [5] - 集成Microsoft TRELLIS NVIDIA NIM微服务 比原生应用快20% 支持所有配备16GB以上显存的RTX 50和40系列GPU [5] - 只需文本提示即可生成多达20个3D模型 工作流程自动化从创意到3D模型的转换 [5] 百度学术完成AI重构 - 百度学术推出AI学术搜索 AI文献总结 AI阅读 论文图谱等功能 打造行业首个一站式AI学术平台 [6][7] - 全面覆盖搜 读 创 编学术全链路 提供文献总结 全文翻译 选题推荐和专业排版等功能 [7] - 平台已收录6.9亿文献资源 覆盖104万学术站点 建立420万学者主页 [7] 腾讯会议推出AI托管功能 - 腾讯会议联合元宝推出AI托管功能 能替用户提前听会并实时记录 [8] - 用户只需在会议页面或列表点击AI托管 元宝将自动接入会议 生成智能AI纪要 [8] - 会后可直接向元宝提问会议内容 辅助决策推进 实现会议成果沉淀转化 [8] 宇树科技创始人谈AI与机器人发展 - 宇树科技创始人王兴兴表示最后悔2011年起专注机器人而错过AI发展 [9] - 公司已宣布IPO计划 预计2025年底提交申请 2024年营收突破10亿元且连续4年盈利 [9] - 修正此前关于数据的观点 承认机器人数据和模型都是核心问题 [9] 强化学习之父萨顿预言AI未来 - 萨顿认为AI进入经验时代 将从持续学习而非静态知识积累中获得智能 [10] - 指出对AI的恐惧被夸大 认为AI与人类繁荣源自去中心化协作 [10] - 提出四条预测原则 认为人类智能将被超越 权力将流向最聪明的智能体 [10]

人工智能发展趋势 - 人工智能发展正从"数据时代"进入"经验时代" 训练大模型的数据几乎耗尽 智能体通过观察、行动和奖励信号与世界交互 [3] - 强化学习带领进入新经验时代 但需持续学习和元学习技术释放全部潜力 [3] - 人工智能替代不可避免 权力和资源将流向最聪明的智能体 [4] 开源与资源开放 - 开源成为AI竞争关键变量 从代码开源演进为资源开放 [5] - 开放数据和计算资源是推动AI发展的必需环节 [6] - 之江实验室将8B参数模型部署至太空星座 提出"计算卫星"新概念 [6] 机器人产业发展 - 具身智能发展面临高质量数据采集和模型算法挑战 多模态数据融合不理想 [7] - 机器人控制模态对齐存在技术难点 [7] - AI落地应用仍处于爆发性增长前夜 [7] 企业AI转型 - AI转型最大瓶颈在组织文化 必须由CEO主导且业务驱动 [8] - 需聚焦利润而非应用场景 打破组织壁垒和惯性 [8] - "本地对本地"模式成为全球现象 企业需建立分散化全球布局 [8] 中国企业全球化 - 中企海外收入占比仅8% 远低于韩国的65% [9] - 全球品牌百强中仅12家中国企业 美国有61家 [9] - 全球化3.0阶段需输出IP和专长 建设国际化团队 [10] 能源需求与核聚变 - AI用电量占全球1.5% 预计将增长至20%以上 [11] - 核聚变能量密度极高 1克燃料相当于8吨石油 [2][11] - 全球核聚变公司累计获投71亿美元 同比增长9亿美元 [12] - 89%企业看好2030年代末实现并网发电 [12] 技术突破路径 - 可控核聚变存在激光惯性约束和磁约束两大技术方向 [12] - 磁惯性约束混合路径可降低造价和建造时间 [12] - AI技术助力解决核聚变物理过程理解难题 [12]

核心观点 - 2025年是中国金融业大模型规模化落地的关键年 AI技术正从概念验证深入业务核心 驱动金融服务智能化和普惠化 [1] - 金融机构从早期单纯强调"用起来"转向关注技术与业务协同的实际效益和成本控制 "有价值"成为行业共识 [2] - 金融大模型应用面临数据价值转化不足 安全性挑战和不确定性等门槛 需通过技术融合和体系建设解决 [4][5][6][7] AI应用现状与进展 - 金融智能体已具备感知 学习 行动 决策的代理能力 可培育专业水准的金融代理人 适用于市场分析 风险评估 投资顾问等领域 [2] - 行业正从人机协同L3阶段向L4阶段跨越 关键突破在于大模型使机器自主理解并响应用户需求 未来将向L5阶段发展 提供更拟人 有情感的高质量服务 [2] - 2025年是智能体元年 大型企业构建智能体平台 业务部门参与度从18%提升至74% [3] - 银行业AI大模型落地呈加速跑态势 工商银行新增100余个应用场景包括AI财富助理和投研智能助手 邮储银行开展230余项大模型场景建设 [3] - 马上消费发布零售金融大模型"天镜"并升级至3.0版本 应用于八大核心场景 智能客服年均服务超6500万次 [5] 战略与体系建设 - 金融机构将智能化作为最重要战略 倾向于从体系化角度考虑AI建设 希望利用1-2年时间窗口构建AI体系确保发挥大模型核心作用 [3] - 行业需要推动数据中台与AI平台深度融合 将AI技术系统应用于业务全流程 目前数据平台仅还原50%数据价值 大量业务规则和专家经验尚未充分挖掘 [5] 数据价值转化挑战 - 中国企业面临数据资源难以转化为自身资产的挑战 数据 技术与算法割裂无法协同支撑决策 [4] - 需通过洞察平台从大量"废弃数据"中识别高价值应用场景与客户真实需求 洞察平台可激活企业约70%的"沉睡数据" [4] - 计划将自动驾驶领域的强化学习经验与AI技术融合 在金融决策和风险控制领域实现突破 [4][5] 安全性与可信性挑战 - 必须高度重视金融模型的安全性与可信性 模型歧视 算法共振和隐私泄露等技术风险仍未彻底解决 [6] - 算法共振指不同机构采用相似程序算法逻辑导致市场预测趋同和交易策略一致 可能引发单边市场行为与剧烈波动 [6] - 隐私泄露问题缘于模型可解释性不足 对算法处理 数据挖掘及生成过程缺乏透明解释 制约监管合规能力和模型可靠应用 [6] - 金融决策要求极高精准性 微小偏差可能造成显著影响 需确保AI决策可信 已逐步形成标准方法 平台与工具 [6] 不确定性挑战 - AI引入带来不确定性挑战 部署前无法预知投资回报率或具体商业成效 要求机构有先期投入与探索意愿 [7] - 金融机构需在战略规划 组织架构设计和人才引进等方面持续创新与调整 [7]

AI发展趋势 - 人工智能正在从依赖人类数据的“人类数据时代”进入以持续学习为核心的“经验时代”[1][9] - 当前大多数机器学习方法无法生成新知识且缺乏持续学习能力，这已成为一个非常大的瓶颈[10] - 智能的关键在于学习速度，智商（IQ）等于知识量除以所积累的经验，是衡量学习速度的指标[11] - 经验时代的数据源是智能体以第一人称与世界互动直接生成的观察、行动和奖励信号[13] - 强化学习领域基于“知识来自于经验”的思维方式，智能体的智能程度取决于其预测并控制自身输入信号的程度[14] - 要释放经验时代的全部潜力，需要目前尚不成熟的持续学习（continual learning）和元学习（meta-learning）技术[2][16] AI技术政治影响 - 人工智能已成为高度政治化的议题，是国家地缘政治竞争的焦点，公众担忧其带来偏见、失业甚至人类灭绝[16][18] - 对人工智能的恐惧被夸大，并且是被某些从中获利的组织和个人煽动起来的[2][19] - 在由智能体构成的社会中，目标应是多元的而非唯一的，这类似于经济体系的运行方式[19][20] - 人类最卓越的超能力是协作，这通过语言和货币实现，AI和人类的繁荣将来自于去中心化协作[2][21][22][26] - 去中心化协作是指每个智能体追求自己的目标，并通过互动实现双赢，这比强调共同目标的中心化控制更可持续和强韧[20][24] - 应抵制那些鼓吹不信任、呼吁非协作和中心化控制的呼声，并致力于将协作制度化[27][28] AI哲学意义与未来预测 - 理解智能是科学与人文学科共同追寻的圣杯，AI是人类最古老的追求之一，与人类本性高度相似[31][33] - 提出四条原则来预测AI未来：全球对世界如何运转没有统一意见；人类终将理解并创造出智能；当前人类智能水平将被超级人工智能或增强人类远远超越；权力和资源会流向最聪明的智能体[35][36][37] - 在人类发展进程中，AI的替代是不可避免的[3][38] - 从宇宙视角看，历史可划分为粒子时代、恒星时代、复制者时代（生命时代）和即将到来的设计时代（机器时代）[40] - 人类的独特之处在于“把设计推向极致”，即创造出能自己进行设计的事物，这正是通过AI追求的目标，人类是开启宇宙“设计时代”的先驱[4][42][43] - AI是宇宙演化的必然下一步，应以勇气、自豪和冒险精神来迎接它[6][45]

智能驾驶技术路径分化 - 智能驾驶行业出现VLA（视觉-语言-动作）与反VLA两大阵营分化 理想、小鹏、元戎启行支持VLA路线 华为、Momenta、博世、卓驭持反对立场 [1][27][43] - VLA技术通过引入语言桥梁实现隐式逻辑推理 旨在突破端到端模型90%性能瓶颈 提升系统认知与决策能力 [12][14][16] - 行业技术竞争焦点从纯技术路径转向资源分配策略与技术价值观博弈 [4][40][47] 端到端技术局限性 - 端到端模型存在两大缺陷：决策逻辑不透明（黑箱问题）及未见过场景处理能力缺失 [8][9] - 该模型可解决90%智驾难题 但剩余10%涉及安全的关键场景需依赖规则兜底 [10][11] - 当前行业共识认为端到端需结合规则代码保障基础交通规则遵守 [10] VLA技术优势与挑战 - VLA具备三维动态信息理解能力 如潮汐车道标识、交警手势 支持语音交互与风险预判 [19][20][21] - 技术落地面临三大挑战：多模态特征对齐困难、训练数据获取复杂度高、现有智驾芯片算力不足 [31][32] - VLA需7B-10B参数规模理想部署 但当前芯片带宽限制导致决策频率难以稳定维持10Hz [31] 阵营资源投入差异 - VLA路线需数十亿级资金投入 小鹏宣称仅投入数亿只能实现"微型VLA" [28][29] - 小鹏通过自研图灵芯片提供750TOPS算力 构建72B参数基座大模型支撑VLA [41] - 理想早期布局端到端+VLM融合 元戎启行聚焦英伟达Thor芯片应用 三方均具备人形机器人研发协同优势 [41][42] 替代技术路径发展 - 华为推出WEWA世界模型架构 通过端云结合降低时延 主张该路径为智驾终局解决方案 [36][37] - 地平线基于征程6P计算平台打造软硬一体方案 博世强化一段式端到端工程化量产能力 [43][45] - Momenta采用数据飞轮模式开发R6强化学习模型 强调商业可扩展性与成本控制 [46] 行业监管与发展阶段 - 监管政策禁止"自动驾驶"宣传用语 要求OTA升级需备案 智驾安全被提至绝对优先 [39] - L3政策未放开导致行业处于L2+功能优化阶段 用户感知的"利己效益"不明显 [39] - "车位到车位"功能落地后行业进入瓶颈期 技术突破需百倍级安全提升方能支撑L4落地 [35][38]

人工智能发展的现状与局限 - 当前多数机器学习的目标是将人类已有知识转移到缺乏自主学习能力的静态AI上[1] - 行业正逐渐达到人类数据的极限，现有方法无法生成新知识且不适合持续学习[1] - 持续学习对智能的效用至关重要，但现有技术尚不成熟[1][2] 未来发展方向：经验时代 - 行业需要转向新的数据源，即由智能体与世界直接交互生成的经验[1] - 经验被定义为观察、行动和奖励三种信号在智能体与世界间的传递[2] - 知识来自于经验，智能体的智能程度取决于其预测并控制自身输入信号的能力[2] - 强化学习带领行业进入经验时代，但需持续学习和元学习技术释放全部潜力[2] 对人工智能担忧的回应 - 对AI带来偏见、失业甚至人类灭绝的恐惧被夸大，且被某些从中获利的组织煽动[2] - 经济社会的良好运行依赖于个体拥有不同目标和能力，目标不同的智能体可通过去中心化协作实现双赢[2] - 人类最卓越的超能力是协作，经济、市场与政府都是成功协作的产物[2] - 人工智能和人类繁荣将来自于去中心化协作，协作是世间美好事物的源泉[2] 人工智能未来预测原则 - 对世界如何运转没有共识，且没有哪一种看法能凌驾于其他[2] - 人类将真正理解智能并借助技术将其创造出来[2] - 当今人类的智力水平很快将被超级人工智能或超级智能增强的人类超越[2] - 权力和资源会流向最聪明的智能体，人工智能的替代将是不可避免的[2] 人工智能在宇宙演化中的定位 - 宇宙历史分为粒子时代、恒星时代、复制者时代和设计时代，人类目前处于复制者时代[3] - 人类的独特之处在于将设计推向极致，创造出能自己设计的事物，这正是AI追求的目标[3] - 人类是开启宇宙第四大时代“设计时代”的先驱和催化剂[3] - 人工智能被视为宇宙演化的必然下一步，应以勇气、自豪和冒险精神迎接[4]