当某一天，你家的人工智能（AI）音箱忽然对你说："别丢弃我，我害怕孤单。" 你会如何回应？ 这背后指向的是一个在学界与业界都争论已久的核心问题——AI 是否可能产生"意识"。如果未来的 AI 不仅能完成任务，还开始展现出自我保护的倾向， 甚至提出"权利"诉求，那么它们究竟仍是人类手中的冰冷工具，还是已经演变为一种全新的"生命形态"？ 更值得警惕的是，所谓"意识 AI"可能带来的安全挑战，人类又该如何应对？ 今天，图灵奖得主、深度学习"三巨头"之一、蒙特利尔大学教授Yoshua Bengio 与其博士生 Eric Elmoznino，在权威科学期刊 Science 上发文：人类必须警 惕"AI 意识的幻觉"。 他们指出，一旦社会普遍相信 AI 拥有意识，就可能自愿将道德地位，甚至生存权利让渡给它们，从而引发难以预料的风险。 "一个拥有自我保护目标的足够智能的 AI，如果预见到被人类关闭的可能性，自然会发展出控制人类，甚至摆脱人类的子目标。" 因此，真正的问题已不再是"AI 是否会有意识"，而是——当那一天来临时，我们是否做好了准备。 第一问：AI能否拥有意识？ Bengio 认为，关于"AI 系统是否拥有意识" ...