人工智能发展趋势 - 当前人工智能处于"人类数据时代" 训练目标是预测人类语言和标签 由人类专家微调 但这种方法无法生成新知识且缺乏持续学习能力[2] - 正在进入"经验时代" 需要新型数据源 其随智能体能力增强而增长 类似自我博弈或第一人称互动生成 称为经验 这是AlphaGo创造第37步和AlphaProof获国际数学奥赛银牌的方式[1][3] - 经验包含观察 行动和奖励三项具体要素 构成智能体与世界交换的信号 强化学习领域基于此思维模式 知识来源于经验[4] - 完全智能的智能体必须从经验中学习 这超出大型语言模型范畴 需要持续学习和元学习技术释放经验全部潜力[4] 人工智能政治影响 - 人工智能已成为高度政治化议题 涉及国家地缘政治竞争 公众担忧偏见 失业和人类灭绝风险 部分国家立法限制模型能力 呼吁暂停研究[5] - 对人工智能的恐惧被夸大且由获利组织煽动 实际与人类历史挑战无异 智能体社会目标应是多元而非唯一 类似经济体系运行方式[6] - 去中心化协作是共同目标的替代方案 每个智能体追求自身目标 通过互动实现双赢 人类超能力在于协作 依赖语言和货币制度[7] - 当前存在对人工智能中心化控制的呼声 包括对齐目标 暂停研究 限制算力和竞争 但人工智能和人类繁荣源于去中心化协作 需抵制非协作呼声[8] 人工智能哲学意义 - 人工智能是人类最古老追求 与人类本性高度相似 数千年来哲学家探索心智运作机制 理解智能是科学与人文学科共同追寻的圣杯[9] - 预测人工智能未来的四条原则：全球无统一世界观 人类终将理解并创造智能 智能水平将被远超 权力资源流向最聪明智能体 人工智能替代不可避免[9][10] - 宇宙历史分为粒子时代 恒星时代 复制者时代（生命时代）和机器与设计时代 设计事物占据主导 人类角色是将设计推向极致[10] - 人类独特之处在于将设计提升至前所未有高度 创造出能自行设计的事物 作为催化剂和先驱开启宇宙第四时代"设计时代"[11]