在罗伯特·海因莱因（Robert A.Heinlein）的小说《严厉的月亮》（The Moon Is a Harsh Mistress）中，月球殖民者揭竿而起反抗位于地球上的月球政权。他们的诉求本来几乎没有希望实现，但他们得到了麦克的帮助，而麦克是控制绝大多数月球城市中主要自动化运作机能的中央计算机。麦克不止是一台重要的机器——它拥有了自我觉知，这不在任何人的计划之内。小说中的叙述者是这样说的：
人类大脑拥有大约十的十次方个神经元。在第三年，麦克拥有的神经元件数量就超过了这个数量的一倍半。
然后它觉醒了。
这位叙述者，曼纽尔·欧凯利·戴维斯（Manuel O’Kelly Davis），是一位计算机技术员，他没有花太多时间琢磨麦克出现的意识来自什么，又有什么深刻的含义。他们还有革命要完成，而自我觉知似乎就是那种在能思考的设备变得足够庞大复杂时会出现的东西。
现实可能要更复杂一些。人类大脑包含许多神经元，但这些神经元并不是就这样随机连接起来的。连接组有着某种结构，它经过自然选择的过程逐步发展而来。在计算机体系里，无论是硬件还是软件中也有结构，但计算机拥有的这种结构似乎不可能仅仅通过意外而偶然获得自我觉知。
那如果它做到了呢？我们怎么知道一台计算机真的在“思考”，而不是盲目地摆弄各种数字？（这两者有区别吗？）
——
英国数学家和计算机科学家阿兰·图灵（Alan Turing）早在1950年就部分回答过这些问题。图灵提出了他所谓的模仿游戏，现在人们更熟悉的名字是图灵测试。图灵论文的开头以值得赞赏的直率作出了这样的陈述：“我提议考虑这个问题：‘机器能思考吗？’”但他马上就判断这种问题会经受有关定义的无尽争论。于是依照最优秀的科学传统，他将这个问题丢在一边，用另一个更有操作性的问题来代替：一台机器能否与人以某种方式交谈，使得这个人相信这台机器同样是人？（最优秀的哲学传统则是热烈沉浸在关于定义的争论中。）图灵建议，在这样的测试中冒充人类的能力可以作为“思考”意义的一个合理判别准则。
图灵测试已经进入了我们的文化词汇，而我们定期就能读到有关这个或者那个程序终于通过测试的新闻。这也许不难相信，鉴于我们现在已经被机器包围，这些机器会给我们发电子邮件、为我们驾驶汽车，甚至与我们谈话。但事实是，没有任何计算机接近能通过真正图灵测试的程度。我们在新闻报道中读到的竞赛，它们的组织方式总是让人类考官不能真正以图灵想定的方式挑战电脑。假以时日我们非常可能到达那个目标，但现在的机器仍然不能在图灵的意义上“思考”。
如果我们的确花心思造出了一台机器，它能以一种让几乎所有人都满意的方式通过图灵测试，到了那个时候我们还会争论这台机器到底是不是在与人类相同的意义上思考。问题在于意识以及与此紧密相关的“理解”。无论电脑在进行对话方面变得有多聪明，它能否真正理解它在说什么？如果这些讨论走向了美学或者情绪的话题，在硅质芯片上运行的软件又能否像人类那样体验美感或者感到悲伤？
图灵预见了这一点，他实际上将其称为意识论证。他相当正确地指出这个问题等同于第三人称视角（别人看到我在做什么）和第一人称视角（我对自己的观察和思考）之间的差异。对于图灵来说，意识论证似乎根本上就是唯我论的：你永远无法知道任何个人是不是真正有意识，除非这个人就是你自己。除了通过行为判断以外，你怎么知道世界上其他所有人是不是真的有意识？图灵预见的是哲学僵尸的概念——外表和举止都像正常人的一个人，但它却没有内在体验，或者说没有感质（qualia）。
图灵认为取得进展的方法在于关注那些能通过对现实事件的观察来客观回答的问题，而不是通过谈论那些必然避开外部观察的个人体验来回避问题。带着一点迷人的乐观主义，他的结论是每个仔细思考过的人最终都会同意他的说法：“支持意识论证的大部分人都会被说服抛弃这个观点，而不是被迫接受唯我论的立场。”
但坚持认为思考和意识不能由外部判断，而同时接受其他人可能也有意识，这是可以做到的。人们可能会想：“我知道我有意识，而其他人基本上跟我一样，所以他们大概也有意识。然而计算机跟我不一样，所以我可以抱有更大的怀疑。”我不认为这就是正确的态度，但它在逻辑上前后一致。那么问题就变成了计算机是否真的这么不一样？在我大脑中完成的那种思考是否真的与计算机中发生的事情有着本质差异？海因莱因的主角并不这样认为：“不觉得路径到底是蛋白质还是铂金会有什么不同。”
——
中文屋是一个由美国哲学家约翰·瑟尔（John Searle）提出的思想实验，它尝试强调图灵测试可能以什么方式漏过了“思考”和“理解”的真正含义。瑟尔让我们想象一个被锁在房间里的人，里边有堆积如山的纸张，每张纸上都写着一些中文。在房间墙上还有一道狭槽，纸张可以通过它来回传递，房间里有一组以表格形式列出的指示。这个人能用英语交谈和阅读，但一点中文都不懂。当有写着中文的纸张通过狭槽进入房间时，里边的这个人可以查阅相关指示，它会指向已有的某张纸，然后他就将那张纸通过狭槽传递回去。
实验中的被试者不知道的是，那些放进房子里的纸上面都用中文写了合情合理的问题，而他接受指示作为交换送出去的纸张上面也是合情合理的回答——也就是一个思维正常的人会做出的那种回答。对于房间外面会说中文的人来说，不管怎么看，似乎他们都正在向房间里一个会说中文的人发问，而这个人也在用中文回应他们。
然而我们当然会同意在房间里并没有人真正懂得中文，这就是瑟尔的论点。那里只有一个说英语的人，一大堆纸，还有一组详尽无遗的指示。这个房间似乎能（用中文）通过图灵测试，但不存在任何真正的理解。瑟尔一开始的目标是关于人工智能的研究，他觉得这些研究永远不可能达到真正处于人类层面的思考。用他的比喻来说，尝试通过图灵测试的计算机就像中文屋里的那个人：也许它能通过摆弄符号来给出一种理解的错觉，但在那里并没有任何真正的理解。
瑟尔的思想实验引来了排山倒海的评论，其中许多评论都尝试驳斥他的论点。最简单的反驳也相当成功：当然不能说房间里的人理解了中文，理解中文的是“人加上一组指示”的这个联合系统。就像图灵预见到意识论证那样，瑟尔也预见到了这个反驳论证，并且在原来的论文中就探讨过这个问题。他对此并不以为然：
这个想法是，即使一个人不理解中文，在某种意义上这个人与一些纸张结合起来可能就能理解中文。某个并未坚持某种意识形态的人竟然会觉得这个想法合情合理，这一点对我来说很难想象。
就像许多类似的思想实验过程那样，中文屋的第一步——存在某堆纸张和某本指示手册能够模仿人类对话——就已经荒谬绝伦。如果这本指示手册在字面意义上对于每个可能问到的问题都指出了单一回答，它也永远不可能通过稍微称职的人类考官主持的图灵测试。考虑一下类似“你最近好吗？”，“为什么这样说？”或者“你能多谈谈这个吗？”的问题。真正的人类对话并不仅仅以一句回一句的基准来进行；它们依赖于语境以及之前的对话。那些“纸片”至少要包含一种储存记忆的方式，还有一个能够将那些记忆整合到当前对话中的信息处理系统。要想象这样的东西并非不可能，但这远远要比一堆纸和一本指示手册更复杂。
以瑟尔的观点来看，我们所谓的“系统”中包含了整个设置中的哪些部分根本无关紧要，它们都不可能达到真正意义上的理解。但中文屋实验并不是这个结论的一个令人信服的论证。它的确展示了一个观点，就是“理解”这个概念超越了输入和输出之间纯粹物质性的相关性，需要某些额外的东西：系统内发生的事在特定意义上要真正与当前的谈话主题“有关联”。对于诗性自然主义者来说，“关联性”并不是信息能拥有的某种额外的形而上学性质，而只是有关物质世界不同部分之间关联的一种方便的说明方式。
将中文屋作为机器不能思考的论证，这是在窃取论题而不是解决论题。它构造了一种特殊形式的机器，标榜它能思考，然后说：“当然你不会认为里边存在什么真正的理解，不是么？”最好的答案是：“有何不可？”
如果世界只有物质，那么我们所说“理解”的意思就是说明一种特殊相关性的方式，就是处于某系统中的信息（以某种物质特定排列的形式存在）与外部世界环境之间的相关性。在中文屋的例子中，不存在任何指示说我们不应该这样思考，除非你已经相信这一点。
这并不是在淡化我们澄清“理解”意义的难度。一本量子场论课本包含了有关量子场论的知识，但它自身并不“理解”这个主题。一本书不能回答我们提出的问题，也不能利用场论的工具去进行计算。比起单纯信息的存在，理解必然是更为动态而面向过程的概念，而仔细定义它的这项困难工作也很值得去做。但就像图灵所说的那样，这项困难的工作没有理由不能从纯粹可操作的层面上进行——只涉及事物的实际运作，而不是援引那些一开始就打上了“外部人员无法观察”这种标签的无法捉摸的属性（例如“理解”和“意识”）。
瑟尔的思想实验原本的目标并不是意识问题（觉知和体验意味着什么），而是有关认知和意向性的问题（思考和理解意味着什么）。然而这些问题之间有着紧密的联系，而瑟尔本人后来也认为这个论证证明了计算机程序不可能有意识。这个延伸相当直接：如果你觉得房间内的系统并没有真正的“理解”，你大概也不会认为它有觉知或者体验。
——
中文屋这个思想实验迫使我们当中认为意识拥有纯粹物质性的那些人直面我们做出的断言是何等的惊人。即使我们并未声称拥有关于意识有血有肉的完整理解，我们也应该先搞清楚什么样的东西称得上“意识”。在中文屋中，我们针对那堆纸和那本指示手册提出了这个问题，但它们只是谈论计算机中的信息和处理过程时用到的一种形象化表达。如果我们相信“意识”只是一种谈论背后物理事件的方式，那么这会将我们置于什么样令人不安的情况中呢？
只有一个系统是我们基本同意拥有意识的，那就是人类——主要是大脑，但如果你喜欢也可以把身体其他部分都包括进去。一个人类可以看成数万亿细胞组成的结构。如果只存在物质世界，我们必须认为意识来自所有这些细胞的特定运动和相互作用，无论是细胞之间还是与外界的相互作用。其中重要的应该不是细胞是“细胞”本身这个事实，重要的只是它们互动的方式，也就是它们随着时间的运动在空间中刻划出的动态模式。这就是多重实现方式的意识版本，有时候也被称为载体独立性（substrate independence）——许多不同的物质都能让有意识思考的模式容身其中。
而如果这正确的话，那么各种事物都有可能有意识。
想象一下，我们从你的大脑里选取一个神经元，然后研究它的活动直至巨细无遗。我们确切知道它对于任何可能接收到的合理信号会发送出什么信号作为回复。然后，在不对你进行任何额外改变的前提下，我们将那个神经元取出，用一个在输入和输出的层面上行为丝毫不差的人造器件来代替它，就像在海因莱因的自我觉知计算机麦克里的“神经元件”那样。但与麦克不同，你几乎是完全由本来的生物细胞构成的，除了那个作为替代品的神经元件。你是否还有意识？
绝大部分人都会做出肯定的回答，有一个神经元被行为相同的神经元件代替的人仍然具有意识。那么如果我们取代两个神经元呢？或者说数亿个神经元？根据假设，你的所有外在行动都不会发生改变——至少如果世界只有物质，而你的大脑并没有受到任何非物质灵魂实体的影响，这些实体只会跟有机的神经元沟通，而不会与神经元件沟通。每一个神经元都被以相同方式互动的人工器件取代的人毫无疑问能通过图灵测试。这算不算得上有意识？
我们不能证明这样的一台思考机器具有意识。在逻辑上来说，逐步取代神经元的过程有可能会在某个地方出现相变，即使我们不能预测它会在什么时候发生。但我们也没有证据或者理由去相信这样的相变存在。根据图灵的意思，如果神经元和神经元件的半有机半机械混合体与普通的人类大脑拥有完全一致的行为，那么我们就应该认为它有意识以及随附的一切。
即使在约翰·瑟尔提出中文屋实验之前，哲学家内德·布洛克（Ned Block）也讨论过利用中国整个人口来模拟一个大脑的可能性。（为什么大家都挑中国来做这些思想实验？这留给读者当作习题。）大脑里神经元的数量远远多于中国甚至世界的人口，但对于思想实验的标准来说，这并不算什么障碍。一大堆人跑来跑去互相传递口信，其中完美地模仿了人类连接组中的电化学信号，这称得上“有意识”吗？所有这些人——作为整体，而不是作为个人——是否在某种意义上拥有内在体验和理解？
想象一下我们描绘了一个人的连接组，不仅是在某个瞬间，而是它贯穿一生的发展。这时——我们反正已经一头扎进了不切实际得无可救药的思想实验里了——想象一下我们完完整整地记录了这个人的一生中每一个穿过突触的信号。将这些信息储存在硬盘上，或者写在（不可胜数的）白纸上。对一个人心理过程的这种记录本身算不算“有意识”？对于意识，我们是否确实需要某种随时间发展的过程，还是对于个人大脑物理状态演化过程的一个静态表述就足以抓住意识的本质？
——
这些例子虽然充满幻想，但也说明了问题。的确，利用完全不同类型的物质（不管是神经元件还是人群）来再现大脑中发生的过程，这完全应该称得上有意识，但打印出来的一份关于那些过程的静态描述不能算是有意识。
从诗性自然主义的观点来看，当我们谈论意识的时候，我们并不是说发现了宇宙中存在的某种基本材料。这不同于搜索会导致某种已知疾病的病毒，这种情况下我们完全知道寻找的是什么种类的东西，只是希望用仪器成功探测它，以便于描述它到底是什么。“意识”和“理解”这些概念类似于“熵”和“热”，我们发明了这些概念，为的是给我们自己创造出更多对世界有用而高效的描述。我们判断对意识本质的构想时，基准应该是它能否给出一种有用的谈论世界的方式——既与数据精确吻合，又能带来对实际过程的领悟。
某种形式的多重实现必定在某个层次上存在。就像忒修斯之船那样，任何人体内的绝大部分原子以及相当部分的细胞每年都会被等价的副本所取代。当然不是每一个原子都这样，比如说牙齿珐琅质中的原子就被认为基本上是永久不变的。但定义“你”是谁的，是你那些原子的组成形式以及做出的集体行动，而不是作为单个粒子具体的同一性。意识也应该有相同的性质，这似乎相当合理。
如果我们正在创建意识的定义，那么“系统随时间变化的行为”这一点必定扮演了关键的角色。如果意识有什么要素是绝对必要的话，那应该就是拥有思想的能力。这毫无疑问会牵涉到随时间的演变。意识的存在同样意味着在某种意义上理解外部世界，以及与其进行适当的互动。一个系统如果只是待在那里，在每个时刻都维持相同的构型的话，不管它有多复杂或者代表了什么东西，都不能被认为有意识。你大脑运作过程的一份打印件谈不上意识。
想象一下，你正在尝试构建有关人类行为的有效理论，但其中并未援引他们的内在心理状态。也就是说，你扮演的角色是老派的行为主义者：一个人接受输入做出适当的行为，其中没有任何与内心生活有关的那种不可观测的废话。
如果你希望构建一个优秀的理论，你最终会重新发明内在心理状态这个概念。部分原因很简单：来自感官的输入可能会听到某个人在问：“你今天心情怎么样？”而引发的反应可能会是“老实说，现在我有点郁闷”。解释这种行为最简单的方法就是想象存在某种被称为“郁闷”的心理状态，然后我们的实验对象当时正处于这种状态。
但还有另一个原因。即使在个体的行为方式没有明显涉及内部心理状态的时候，真实的人类行为也极端复杂。这并不像是桌球台上两个将要碰撞的球那样，只要相对较少的信息（碰撞角、旋转、速度等）就能让你可靠地预测接下来会发生什么事情。两个不同的人，或者甚至是处于稍微不同场景中的同一个人，对于相同的输入都可能作出非常不同的反应。解释这一点最好的办法就是求助于内部变量——这个人脑袋里正在发生某种事情，而如果想要正确预测他们会有什么行动的话，最好还是将这些事情纳入考虑。（当你熟悉的人举止诡异的时候，要记住，不一定是你的问题。）
换句话说，如果我们还不知道意识，我们会需要发明这个概念。人们同时体验到内在状态和外在刺激的这个事实绝对处于他们人格和行为的中心位置。内在体验和外在行为不可割裂。
丹尼尔·丹尼特的所谓意向性立场（intentional stance）说的基本上就是这一点。在很多情况下，讨论的时候假装某些事物拥有态度或者意图会很有用。于是我们就用这种方式来讨论，这也非常合理——我们向各种事物赋予意向性[19]，因为它是能很好解释这些事物行为的理论的一部分。我们做过的所有讨论都包含这种“假装”，因为物质世界的不同部分之间不存在形而上学意义上的“意向性”联系，只有不同物质团块之间的关系。就像我们在第35章讨论“目的”的涌现那样，我们可以将意向、态度和意识状态看成这样的概念，它们在描述同一个物理现实的高层次涌现理论中扮演了必不可少的角色。
图灵尝试用他的模仿游戏捕捉的是这样的一个概念：在思考过程中真正重要的是系统会对刺激做出何种反应，比如说这种刺激可以是通过终端窗口输入来向系统呈现的问题。对一个人类的一生进行的完整视频和音频记录并不会“有意识”，即使它捕捉到了这个人到目前为止所做的一切，原因在于这些记录并不能外推未来的行为。我们不能向它问问题，也不能与它互动。
许多尝试通过阉割版图灵测试的程序，它们都是稍加改动过的聊天机器人，都是些简单的系统，能面对一系列可能的问题立马用预先编写好的句子回应。要愚弄它们很容易，不仅仅因为它们缺少任何正常人都拥有的那种关于外部世界的详细背景知识，还因为它们即使对于刚刚发生的对话也没有任何记忆，更不用说把这样的记忆整合到接下来的讨论这种能力了。要做到这一点，它们应该拥有不同的内部心理状态，以整体的方式依赖于它们此前的全部历史，还有唤起假想未来情景的能力，整个过程中还要区分过去和未来，区分它们自身和周遭环境，还有区分现实和想象。就像图灵所说的那样，如果一个程序优秀得能令人信服地维持达到人类水平的交流互动，它一定是真正地在思考。
——
辛西娅·布雷齐尔（Cynthia Breazeal）是麻省理工学院的机器人学家，她领导的研究组构建过几个有关“社交机器人学”的实验。他们最迷人的结果之一是一个名为莱昂纳多（Leonardo）的机器木偶，造出它身体的是斯坦·温斯顿工作室（Stan Winston Studio），这个特效团队曾经参与了诸如《终结者》（The Terminator）和《侏罗纪公园》（Jurassic Park）的好莱坞大片的制作。莱昂纳多装备有超过六十个微型马达，让它能拥有一系列丰富的动作和面部表情，与史蒂文·斯皮尔伯格（Steven Spielberg）担任执行制作人的电影《小精灵》（Gremlins）中的小精灵相似得不是一星半点。
我们发现，拥有面部表情的这项能力在与人类交谈之中极其有用。处于身体之中的大脑运作得更好。
莱昂纳多在布雷齐尔的实验室中与研究人员互动，在读取他们表情的同时也展示出自己的表情。它的程序中包含了心智理论（theory of mind）——它不仅留意自己的知识（来自它的摄像机眼睛拍摄到的在它面前发生的事情），还留意其他人的知识（来自对这些人行动的观察）。莱昂纳多的行动并不是全部都预先编写好的；它会通过与人类的互动来学习新的行为，也会模仿那些它观察到其他人做的手势和回答。即使对它的程序一无所知，任何看到莱昂纳多行动的人都能仅仅通过观察它的神色，轻易说出它到底是高兴、悲伤、害怕还是迷惑不安。
有个关于莱昂纳多的实验很能说明问题，这是个关于虚假信念的任务：检查测试对象是否理解另一个人可能持有某种实际上不正确的信念（人类似乎在大约四岁时发展出这项能力；更小的小朋友会被所有人都拥有相同信念的错觉所蒙蔽）。莱昂纳多看着一个人将动画《芝麻街》里的角色“大鸟”的玩偶放在了它面前的两个箱子之一。然后这个人离开了房间，而另一个人走进房间，把“大鸟”玩偶从原来的箱子换到了另一个箱子里。现在第二个人离开了，第一个人又回来了。莱昂纳多足够聪明，知道“大鸟”在另一个箱子里，也知道第一个人“相信”它在原来的箱子里。
然后实验者问道：“莱昂纳多，你能不能找到我认为‘大鸟’所在的地方？”这个问题关乎元认知，也就是对于思考的思考。莱昂纳多正确地指向了原来的箱子，这符合它对实验者的信念建立的模型。但在指向原来的箱子同时，莱昂纳多也偷偷扫了一眼另一个箱子，那就是“大鸟”现在实际的藏身之处。这并不是编写好的行为，而是这个机器人在与人类互动时学到的东西。
无论你是爬上陆地的鱼，是在实验室中与实验者打交道的机器人，还是一个与其他人互动的人类，关于周遭世界的模型非常有用，其中包括别的生物以及它们的模型。对自身以及其他个体的觉知，还有在数个层次上沟通和互动的能力，对于在复杂世界中挣扎求存的我们来说，这些都是很有用的能力。