通往AGI的路径 - 实现AGI需要技术创新与规模扩展各占约50%的努力，二者结合是关键路径 [1][2][55] - 当前模型扩展并未遇到不可逾越的“墙”，进步依然显著且投资回报可观，未见明显放缓迹象 [45][46][50] - 数据耗尽等挑战可通过合成数据生成等技术解决，尤其是在编程和数学等答案可验证的领域 [51] 当前AI的局限与待解决问题 - AI存在“锯齿状智能”现象，能在国际数学奥林匹克竞赛中获奖，却可能在简单逻辑问题上犯错，反映出系统在一致性与可靠推理方面的不足 [5][19][21] - 幻觉问题仍待解决，模型常在不确定时强行作答，未来需发展类似AlphaFold的概率评估机制，使模型能判断自身不确定性并合理拒绝回答 [5][56][57] - 当前大模型本质上是人类知识（如互联网内容）的压缩与泛化，类似于AlphaGo，缺乏在线学习与持续更新的能力 [5][27][33][34] 下一代AI的发展方向 - 未来目标是实现类似AlphaZero的自我知识生成与持续在线学习能力 [5][32] - 世界模型通过模拟物理规律（如重力、流体）来增强对现实的理解，弥补语言模型在描述空间动态与感官体验方面的局限，对机器人、通用助手及科学模拟至关重要 [5][64][65][69] - 通过仿真环境（如Genie、SIMA项目）将智能体投入AI生成的动态世界，可实现无限任务生成与复杂行为训练，并有望用于探索生命与意识的起源 [5][76][80][90] AI在基础科学领域的应用（根节点问题） - AlphaFold的成功验证了AI解决基础科学难题的潜力 [8] - 当前研究正拓展至材料科学（如室温超导体、更优电池）、核聚变及量子计算等领域 [5][9] - 与Commonwealth Fusion等公司的深入合作，旨在利用AI加速核聚变（如约束等离子体、材料设计）进程，核聚变被视为能改变一切的“圣杯”级清洁能源 [10][11][13][16] 商业化、竞争与社会影响 - AI领域存在短期过度炒作与长期被系统性低估的现象，某些初创公司估值可能存在泡沫，但大型科技公司有真实业务和长期投入支撑 [94][95][96] - 需警惕AI商业化重蹈社交媒体覆辙，避免过度追求用户参与度导致“单人回音室”，应构建具有科学精神、适度反馈且支持个性化调节的AI人格 [5][101][104][105] - AI引发的社会变革可能比工业革命规模大10倍、速度快10倍，需提前规划劳动力转型、经济模式调整（如UBI）与社会治理创新 [14][118] 对AGI及超级智能的终极思考 - 目前宇宙中未发现非可计算现象，若意识不依赖量子效应，则理论上图灵机可模拟一切心智过程，信息可能是宇宙最基础的单元 [14][134][136][144] - 公司的工作核心是不断向前推进经典计算的能力边界，探索其终极极限 [139][140] - 基于智能体（Agentic AI）的下一阶段系统将更加自主，其带来的风险（如网络安全）显著上升，需提前准备 [14][164][165]