机器之心报道 机器之心编辑部 设计出具有意识（conscious）的 AI 系统是否可行？一直以来，这个问题就存在分歧。 一些人认为意识是大脑特有的生物特性，这似乎排除了 AI 存在意识的可能性。另一些人则认为意识仅取决于算法对信息的操控，无论执行这些计算的系统是由神 经元、芯片还是其他物理基底构成的，这种观点被称为计算功能主义（Computational functionalism）。 这些问题也引起了图灵得主 Yoshua Bengio 的注意，他和学生 Eric Elmoznino 在权威科学期刊 Science 上发文《Illusions of AI consciousness》，并给出了一些观点。 本文没有执着于给出关于 AI 是否存在意识的明确答案；而是探讨了两个相关问题： 如果 AI 有了类似人类的权利，社会规则该怎么定义？ 一个社会如果开始将 AI 系统视为具备意识的存在，会带来怎样的影响？ 这样的社会可能倾向于赋予 AI 道德地位，甚至类似于人类的权利。无论这种做法是否正 确，社会制度与法律框架都将不得不进行重大调整，而关于如何调整，也会引发一系列复杂问题。 例如，AI 系统不会像人类那样经 ...

当某一天，你家的人工智能（AI）音箱忽然对你说："别丢弃我，我害怕孤单。" 你会如何回应？ 这背后指向的是一个在学界与业界都争论已久的核心问题——AI 是否可能产生"意识"。如果未来的 AI 不仅能完成任务，还开始展现出自我保护的倾向， 甚至提出"权利"诉求，那么它们究竟仍是人类手中的冰冷工具，还是已经演变为一种全新的"生命形态"？ 更值得警惕的是，所谓"意识 AI"可能带来的安全挑战，人类又该如何应对？ 今天，图灵奖得主、深度学习"三巨头"之一、蒙特利尔大学教授Yoshua Bengio 与其博士生 Eric Elmoznino，在权威科学期刊 Science 上发文：人类必须警 惕"AI 意识的幻觉"。 他们指出，一旦社会普遍相信 AI 拥有意识，就可能自愿将道德地位，甚至生存权利让渡给它们，从而引发难以预料的风险。 "一个拥有自我保护目标的足够智能的 AI，如果预见到被人类关闭的可能性，自然会发展出控制人类，甚至摆脱人类的子目标。" 因此，真正的问题已不再是"AI 是否会有意识"，而是——当那一天来临时，我们是否做好了准备。 第一问：AI能否拥有意识？ Bengio 认为，关于"AI 系统是否拥有意识" ...