AI发展趋势 - 人工智能正在从依赖人类数据的“人类数据时代”进入以持续学习为核心的“经验时代”[1][9] - 当前大多数机器学习方法无法生成新知识且缺乏持续学习能力，这已成为一个非常大的瓶颈[10] - 智能的关键在于学习速度，智商（IQ）等于知识量除以所积累的经验，是衡量学习速度的指标[11] - 经验时代的数据源是智能体以第一人称与世界互动直接生成的观察、行动和奖励信号[13] - 强化学习领域基于“知识来自于经验”的思维方式，智能体的智能程度取决于其预测并控制自身输入信号的程度[14] - 要释放经验时代的全部潜力，需要目前尚不成熟的持续学习（continual learning）和元学习（meta-learning）技术[2][16] AI技术政治影响 - 人工智能已成为高度政治化的议题，是国家地缘政治竞争的焦点，公众担忧其带来偏见、失业甚至人类灭绝[16][18] - 对人工智能的恐惧被夸大，并且是被某些从中获利的组织和个人煽动起来的[2][19] - 在由智能体构成的社会中，目标应是多元的而非唯一的，这类似于经济体系的运行方式[19][20] - 人类最卓越的超能力是协作，这通过语言和货币实现，AI和人类的繁荣将来自于去中心化协作[2][21][22][26] - 去中心化协作是指每个智能体追求自己的目标，并通过互动实现双赢，这比强调共同目标的中心化控制更可持续和强韧[20][24] - 应抵制那些鼓吹不信任、呼吁非协作和中心化控制的呼声，并致力于将协作制度化[27][28] AI哲学意义与未来预测 - 理解智能是科学与人文学科共同追寻的圣杯，AI是人类最古老的追求之一，与人类本性高度相似[31][33] - 提出四条原则来预测AI未来：全球对世界如何运转没有统一意见；人类终将理解并创造出智能；当前人类智能水平将被超级人工智能或增强人类远远超越；权力和资源会流向最聪明的智能体[35][36][37] - 在人类发展进程中，AI的替代是不可避免的[3][38] - 从宇宙视角看，历史可划分为粒子时代、恒星时代、复制者时代（生命时代）和即将到来的设计时代（机器时代）[40] - 人类的独特之处在于“把设计推向极致”，即创造出能自己进行设计的事物，这正是通过AI追求的目标，人类是开启宇宙“设计时代”的先驱[4][42][43] - AI是宇宙演化的必然下一步，应以勇气、自豪和冒险精神来迎接它[6][45]