生成式AI技术发展 - 生成式AI技术已强大到令人警惕 从业者需要不断审视对技术发展速度的假设 [1] - 音乐领域的变化正在蔓延到所有媒介 包括代码、机器人技术、蛋白质合成和视频制作 [1] - 谷歌DeepMind的Veo 3等新一代视频生成工具正在被广泛使用 技术正被嵌入到各类产品中 [1] - AI已经很强 且还在不断进化 无论认为AI是最伟大的发明还是最大威胁 都不要低估它 [3] AI幻觉特性 - AI编造信息被称为"幻觉" 例如客服机器人承诺不存在的退款 律师引用虚构案例 [4] - 幻觉是生成式AI的特性而非缺陷 生成模型本就是被训练来编造信息的 [4] - 无意义的内容往往能与现实高度吻合 未来不会出现"不产生幻觉"的版本 [4] AI能耗问题 - AI能耗巨大 主要源于数亿用户每天使用模型 总能耗急剧上升 [5] - ChatGPT每周有4亿活跃用户 成为全球第五大访问量网站 [5] - 科技公司争相在沙漠地区新建数据中心 改造电网以应对能源需求 [5] - 主要AI技术公司未公布太多能耗信息 支撑AI繁荣所需能源尚不明确 [5] 大型语言模型原理 - 无人确切知道大型语言模型的工作原理 虽然知道如何构建和运行它们 [6][7] - 模型像从外太空来的 科学家只能从外部试探 试图弄清其本质 [7] - 在更深入理解之前 无法确切知道它们能做什么 不能做什么 也无法控制其行为 [9] AGI争议 - AGI(人工通用智能)定义模糊 本质上是"比当前更先进的AI" [10][11] - 主流研究人员开始宣称"即将实现AGI" 但缺乏证据证明这一趋势必然延续 [10] - 人们对AI能力产生夸大假设 加剧科技乐观主义者与怀疑论者之间的文化战争 [11]