2017/7/24 9:29:40
几乎每部机器人电影里的机器人都觉醒了，产生了“意识”。机器人的意识似乎是经久不衰的话题，那么探索机器人意识的意义究竟在何处？我们怎么才能发现它们产生了意识？我们要抑制机器人的意识吗？除了著名的图灵测试以外，还有一种关于机器人意识的测试。
你活着的每一刻，不管醒着还是做梦的时候，你都会有关于“你”的独一无二的内在感觉。当你看到日出的温暖色调时，闻到早晨咖啡的香气时，或者想到一个新的想法时，你就有着意识的经历。但是，人工智能（AI）能否有经历的感觉，就像《西部世界》中描绘的一些机器人或《银翼杀手》中的合成人那样 ？
问题未必不着边际。机器人目前正开发用于在核反应堆内部工作，参加战争和照顾老人等等。随着AI技术的日益成熟，预计在未来几十年内将会接管许多人力工作。所以我们必须考虑一下这个问题了：AI可以发展出意识经历吗？
这个问题之所以迫在眉睫有以下几个原因。
首先，道德主义者担心，如果AI能够忍受和感受到一系列的情绪，而被强制来服务我们是不对的。
第二，意识可能会导致AI变化无常、不可预测，引发安全问题（或反过来，可能会增加人工智能的同理心；根据它自己的主观经验，它可能认识到我们的意识，同情对待我们）。
第三，机器意识可能会对脑部植入技术的可行性产生冲击，就像埃隆·马斯克（Elon Musk）的新公司Neuralink所开发的那样。如果AI不能有意识，那么负责意识的大脑部分不能在不导致意识丧失的情况下使用芯片代替。而且，类似地，一个人不能将他们的大脑上传到电脑以避免死亡，因为上传的东西是不会是有意识的。
另外，如果人工智能最终超出了我们的智慧但没有意识，那么我们人类相比机器的还是有一个重要的优越性； 它感觉是像我们的东西。但是，地球上最聪明的东西没有意识或感觉。
关于机器意识的问题有很多。然而，神经科学家远远没有理解大脑意识的基础，哲学家至少同样离对意识本质的完全解释相当远。
那么可以做什么呢？我们认为，我们不需要正式地定义意识，了解它的哲学本质，或者知道它的神经基础来认识AI的意识。我们每个人都可以通过内省来掌握关于意识的重要内容，可以体验到从内到外的感觉。
基于意识的这个本质特征，我们提出了机器意识测验：AI意识测试（ACT），该测验考察了我们创造的综合思维是否具有由内而外的、基于经验的感觉。
正常运转的人类的经验意识中，最引人注目的迹象之一是——尽管这并不常被注意到——几乎每个成年人都可以根据这个特点快速地、欣然地掌握关于意识的概念。这样的概念包括意识身体互换（如电影《怪异星期五》中的场景），死后的生命（包括轮回），以及意识离开“他们的”身体（例如，星体投影或鬼魂）。无论这种情况是否有现实性，对于没有任何意识体验的实体来说，他们将难以理解。这就像期待一个天生完全失聪的人欣赏巴赫协奏曲。
因此，ACT将以一系列越来越苛刻的自然语言交互来挑战AI，来看它基于与意识相关的内部经验能够多快速、欣然地掌握和使用概念和场景。在最基本的层面上，我们可能会问，机器是否将其本身看作是物理自身以外的任何东西。在较高级别，我们可能会看到如何处理上一段所述的想法和场景。在先进的层面上，将会评估其解释和讨论诸如“意识难的问题”等哲学问题的能力。在最苛刻的层面上，我们可能会看到机器是否自己发明和使用这种基于意识的概念，
ACT类似于艾伦·图灵（Alan Turing）的智力测试，因为它完全基于行为 - 而且像图灵测试一样，它可以以正式问答形式执行（ACT也可以基于一个人工智能或一组人工智能的行为）。但是，ACT也与图灵测试非常不同，图灵测试旨在避开任何需求去了解机器内部发生的事情。相比之下，ACT的意图完全相反 ; 它试图揭示微妙和难以捉摸的机器心智。事实上，一台机器可能会在图灵测试下失败，因为它不能作为人一个通过，但它能通过ACT，因为它表现出有意识的行为。
这是我们ACT提议的基础。然而，应该说，ACT的适用性本质上是有限的。AI可能缺乏通过测试的语言或概念能力，如非人类动物或婴儿，但仍然有能力体验意识。所以通过ACT是充分的，但并不是AI意识的必要证据 ——尽管这是目前我们能做到最好的。这是能使机器意识可被调查的第一步。
所以，回到“薛定谔盒子”里的超级智能AI ——我们只能观察和等待。它是否开始像哲学家那样思考，除了身体之外的意识，像笛卡尔那样？它是否会梦想，像艾萨克·阿西莫夫的《机器人的梦想》那样？它是否会表达情绪，像雷切尔在《银翼杀手》中那样？ 它能容易地理解根植于我们内部意识体验的人类观念，比如那些灵魂或潜意识的概念吗？
AI的时代，将是我们和他们共同追求灵魂的时代。