第九章 通往有意识的机器之路（第3页）
社会生物的属性与我们使用意向立场密切相关，理由是它似乎能够让我们理解和预测社会中其他智能体的行为。当我们身处复杂的社会关系中，会陷入更高层次的意向思维中，于是个体的计划（不管是我们自己还是我们观察到的人）会受到其他智能体行为的影响，这里的行为可以定义为可预期的有意识的行为。因而很明显，意识思维在人类社会中普遍存在，我们也依靠它进行社交。回想一下我们在第一章中看到的爱丽丝和鲍勃的八字对话：
鲍勃：“我要离开你。”
爱丽丝：“她是谁？”
对于这个场景，用意向立场去解释就很简单，毫无争议，也富有说服力：爱丽丝认为鲍勃移情别恋了，并且想采取相应措施（离开她），爱丽丝想知道那个人是谁（也许她希望挽回他），她相信询问鲍勃会得到这个问题的答案。如果不从信念或者欲望的角度去分析，要在这种交流模式中解释清楚爱丽丝和鲍勃的角色，以及他们的思维和计划的明确特征，那会很难。
邓巴研究了人类和其他动物的大脑体积与高阶意向推理能力之间的关系。结果表明，高阶意向推理能力大致上是大脑额叶相对大小的线性函数。由于大脑的体积与社会群体的大小密切相关，因此，对于大脑自然进化的解释是为了满足在复杂社会体系中对社交推理（高阶意向推理）的需要。无论是集体狩猎、与敌对部落战斗、追求配偶（或许包括击败对手），或是获得对盟友的影响力和领导权，理解和预测别人想法的价值不言而喻。回到邓巴的论点，更大的社会群体会对更高阶的社交推理提出更高的要求，从而解释了邓巴所确定的大脑体积和社会群体规模之间的关系。
回到我们最初的话题，意向层次似乎与意识程度密切相关。正如我们之前讨论过的，典型的一阶意向系统确实广泛存在，但更高层次的意向性就意味着更高的门槛。人类拥有高阶意向系统，但我不会接受任何人说服我相信蚯蚓也有。那么，狗呢？你也许会说，狗能够理解我的欲望（例如，它会相信我想让它坐下来），但如果一只狗能够进行高层次的意向性推理，那也只是一种相当有限或者经过专门训练才能获得的能力。有迹象表明，某些灵长类动物存在有限的高阶意向性推理能力。例如，长尾猴会用警告声向其他猴子表示有豹子前来袭击（威胁到了猴群的生存）。有人观察到它们也会发出欺骗性的警告声，让其他长尾猴相信自己正在被豹子攻击[151]。这种伎俩的自然解释似乎涉及更高层次的意向性推理：“如果我发出警告声，其他猴子就会相信我正在被豹子攻击，然后它们就会逃跑……”当然，人们也可以提出其他解释来反驳这不代表高层次意向性推理。但是，尽管如此，这则逸事还是提供了某些非人类灵长类动物存在高阶意向性推理的可能性的证据。
以高阶意向性形式表现的社交推理似乎与意识相关。社交推理的进化足以支持复杂的社会网络和大型社会群体。但为什么社交推理需要意向性呢？我的同事彼得·米利肯（PeterMilli）提出，答案可能恰恰在于意向立场的计算效率。如果我有意识地利用自己的功能性动机——以欲望、信仰等形式，并且能够把自己想象成别人，那么这就使得我能够比其他人更有效地预测他们的行为（在实际情况和想象的情况下）。例如，如果我偷了你的食物，而我站在你的立场上去思考，可以本能地感觉到（没有经过计算）你会产生的那种愤怒，并预见你可能会采取报复措施，就会激发我去抵制偷东西的**。这是一个有趣的推测，但不管人类社交推理能力和意识之间的关系如何，我们不太可能很快得到明确的答案。所以现在让我们回到我们的主题——人工智能，并考虑机器是否有能力进行社交推理。
机器有信仰和欲望吗
意向立场在人类社会中扮演着重要的角色，但它也适用于其他实体。例如，针对一个传统的开关，意向立场为我们提供了一个非常有意思的描述性解释：当开关认为我们想传输电流的时候，开关会传输电流。我们通过轻触开关来达成意愿[152]。
然而，意向立场并不是理解和预测电灯开关行为最合适的方式，在这种情况中，采用物理立场或者设计立场要简单得多。相反，对于开关的行为，是否能用意向立场进行合理的解释，这取决于它对于有电流或者没有电流的状态认知，以及我们是否有打开电灯的欲望。虽然意向立场的解释提供了关于开关电灯的准确预测，但是将它作为电灯开关与否的解释，确实不切实际。
对于是否应该用意向立场来解释机器行为，似乎存在两个主要问题：意向立场的解释是否具有合理性，以及是否具有可用性。约翰·麦卡锡是该领域颇富影响力的思想家，他对这两个问题有如下看法[153]：
将某些信仰、知识、自由意志、意图、意识、能力或者愿望归属于一台机器或者计算机程序是合理的，如果这种归属所表达的关于机器的信息和关于人的信息相同的话……对于已知结构的机器，比如恒温器或者计算机操作系统，智力属性的归属是最直接的。但应用于结构未知的实体，它同样有用。
这段话太难理解了，所以我们试着展开解释一下。首先，麦卡锡认为，对一台机器的意向立场的解释应该表达出关于机器的信息，就如对人的意向立场会表达出关于人的信息一样。当然，这是一个很高的要求——让人想起图灵测试的不可区分性。套用我们之前举过的例子，如果我们声称一个机器人相信天在下雨，并且机器人想保持自身干燥，那么，如果机器人表现出理性智能体应该表现的行为，就跟人一样，那么这种声称（即归属）就是合理的。所以，如果机器人能够做到的话，它会采取适当的措施避免自己淋雨受潮。如果机器人没有采取措施，我们会认为，要么它不相信在下雨，要么它不想保持自身干燥，要么它就不合理。
最后，麦卡锡指出，当我们不了解一个实体的内部构造时，意向立场是最适用于解释它的。意向立场提供了一种独立于内部结构和操作（例如，它是人、是狗还是一台机器）来解释和预测行为的方法。如果你是一个理性的智能体，有保持干爽的愿望，并且相信正在下雨，那么我可以解释和预测你的行为，而不需要了解你的任何其他信息。
通往有意识的机器之路
以上讲述的一切，跟人工智能的宏伟梦想有什么关系呢？现在，请让我冒昧地提出一些具体的建议，展望一下通往有意识的机器之路，以及我们将如何制造它。（我期待着自己年老的时候再重读这一节，看看预测是否准确。）
这是一项令人着迷的研究，取得的进展也是令人惊叹的，但是，我们很难看到这项研究通过一些简单的进展或者突破就能制造出有意识的机器。因为这些研究正在解决的似乎不是跟意识有关的问题（当然，我不是在批评深度思维的研究，毕竟解决有意识的机器问题并不是他们研究的要点）。
鉴于以上讨论，我对如何实现这个目标提出一些初步建议。假设我们有一个机器学习程序，它可以独立学习，就像深度思维的智能体学习打砖块游戏一样。它被放在一个需要有意义的、复杂的高阶意向推理的场景中进行学习；或者是一个需要智能体说出复杂谎言的场景，这也意味着需要高阶意向推理能力。又或者是在一个场景中，智能体学会了交流，并且能够有意向地表达出自己和其他实体的意识状态。我认为，如果一个人工智能的智能体系统能够学会有意义地去做这些事情，那就是通往有意识的机器之路[155]。
我在这里想到的是莎莉-安妮测试（Sally-A），这个测试被用来帮助诊断儿童自闭症[156]。自闭症是一种严重而常见的精神疾病，在儿童时期就会表现出来[157]：
在儿童时期，自闭症的主要症状表现为社交和交流的发育明显不正常，典型表现是缺乏正常的灵活性、想象力和伪装本能……自闭症的社交异常主要特征表现……包括缺乏眼神交流、缺乏正常的社交意识或者适当的社交行为，即“孤独”，在互动中表现出片面性以及无法加入社交团体。
典型的莎莉-安妮测试是给被测试的孩子讲述或者表演一个小故事，通常是这样的：
莎莉和安妮同在一间屋子里，屋子里有一个篮子，一个盒子和一颗弹珠。莎莉把弹珠放在篮子里，然后离开了房间。当莎莉不在房间时，安妮从篮子里把弹珠拿出来，放进盒子里。后来，莎莉回到了房间，想玩弹珠。
然后孩子们会被问到一个问题：
“莎莉会去哪里寻找弹珠？”
比较合理的答案是“去篮子里找”，但要得出这个答案，受试者需要能够对其他人的信念做一些推理：莎莉没有看到安妮把弹珠放到盒子里，所以莎莉相信弹珠就在她放置的地方——篮子里。绝大多数自闭症儿童都会回答错误，而适龄的正常儿童几乎总能正确回答。
在撰写本书之时，人们已经开始研究机器学习程序如何学习原始的心智理论能力[158]。研究人员最近开发了一个名叫ToM（心智理论网络）的神经网络系统，它能够学习如何对其他智能体建模，并在类似莎莉-安妮测试的情况下选择正确的行为。然而，这项研究还处于一个非常原始的阶段，解决莎莉-安妮测试问题还不足以证明人工智能拥有意识。但我认为，这是朝着正确方向迈出的第一步。它给了我们一个目标：能够通过自主学习达到人类心智理论水平的人工智能系统。
它会像我们一样吗
讨论人工智能和人类的共通之处，我们通常谈及的是大脑。这是理所当然的：大脑是人体主要的信息处理器官，当我们执行诸如解决问题、理解故事等任务时，大脑起着很重要的作用。所以我们自然会把大脑类比成无人驾驶汽车的电脑，从我们的眼睛、耳朵和其他感觉器官接收和解析感官信息，并告诉我们的手、胳膊和腿应该做什么。但这是一个极其简化的模拟过程，因为真实的大脑是一个由各种组件紧密结合在一起的系统，这个系统包含的组件极其复杂，自从生命第一次出现在这个蔚蓝色的星球上，这个系统作为一个单独的有机体已经进化了数十亿年。从进化的角度看，我们和类人猿也没什么区别——只是有意向感知的类人猿而已。所谓的人类意识，应该在这个背景下做如此理解。
我们目前拥有的能力——包括意识思维——是进化推动了原始祖先的结果[159]。正如我们的手、眼睛、耳朵的进化一样，人类的意识也在进化。人类成熟的意识并非一夜之间突现的，不像电灯那样可以突然开或者关。我们祖先的最初意识大概与蚯蚓无异，慢慢地进化成了莎士比亚。远古的祖先并没有像我们这样享受全方位的意识体验，我们也不太可能像后代那样享受到更为全方位的意识体验。进化发展的过程没有终结。
有趣的是，历史记录可以给我们一些线索，关于意识的某些元素是如何以及为何出现的。当然，有关的历史记录很少，我们不得不在大部分时间使用猜测的方式。但无论如何，这些线索很有意思。
虽然早在100万年前我们的祖先就开始零星地利用火，但在大约50万年前，原始人才开始普遍使用它。火给我们的祖先带来了许多好处——它给了我们光明和温暖，吓跑了潜在的捕食者，扩大了食物的范围。然而，为了避免火灾，火的使用需要管理和维护，这就需要人们有合作的能力，以便轮流看管火堆、收集燃料等。这种合作或许促使了高阶意向推理能力（为了理解彼此的愿望和想法）的出现，还有可能催生出了语言能力。智人的语言能力似乎都是在同一时期内进化出来的，语言能力出现后，它的发展为人类进化带来的好处自然是不言而喻的。
我们无法精准地重建进化的先后顺序，以及它们带来了哪些新的能力。但普遍的研究似乎很清楚，我认为我们可以找到随着时间推移而出现的某些组成意识的部分。当然，这并不能回答意识是什么这个难题，但至少给了我们一些可能有用的线索，可以解读人类成熟的意识中一些必要的组成部分是如何以及为何出现的。它们也有可能进入死胡同，但最终，猜想也能引领我们走向更深入的理解。比起仅仅把意识当作一个无解之谜，它们总归是提供了更多的线索。
在未来的某个时刻，我们会了解意识，就像我们现在了解驱动太阳的能量一样。在那个时候，目前关于意识的各种辩论，可能会像核物理学家正确解释太阳能量来源之前的各种理论一样有趣。
假设我们完成了我提出的假说研究，即建造出有人类心智理论能力的机器，它能够自主地学习处理复杂的高阶意向推理，能够建立和维持复杂的社会关系，能够表达自己和他人心理状态的复杂特性，那么这些机器真的会有“心智”，能够出现自我意识吗？在目前的阶段，我们无法解答这个问题。只有当我们成功建造出这样的机器以后，才能离答案更进一步。当然前提是，如果，我们有能力建造它的话。
[1] 1英里≈1。61千米。
[2] 蛋白质折叠问题被列为21世纪的生物物理学的重要课题，它是分子生物学中心法则尚未解决的一个重大生物学问题。蛋白质可在短时间中从一级结构折叠至立体结构，研究者却需要花大量时间从氨基酸序列计算出蛋白质结构，而且难以得到准确的三维结构。
[3] 一部禁止使用、储存、生产和转让对人具有杀伤力的地雷，及销毁、完全禁止一切杀伤地雷的公约[160]。