5 图灵测试：咖啡馆对话
道格拉斯·R. 侯世达
（1981）
参与者
克里斯：桑迪，谢谢你推荐我阅读艾伦·图灵的文章《计算机器与智能》。文章真是精彩，当然也引我思考——思考我的思考。
桑迪：很高兴听你这么说。你还像以前一样怀疑人工智能（AI）吗？
克：你误会了。我不反对人工智能。我认为它很了不起——也许还有点疯狂，但不就该这样吗？我只是认为，你们这些AI鼓吹者太低估人类的心灵了。有些事是计算机永永远远也做不到的。比如，你能想象计算机写出普鲁斯特式的小说吗？那丰富的想象力，复杂的人物设定……
桑：罗马不是一天建成的！
克：从文章来看，图灵果然是个很有趣的人。他还活着吗？
桑：不，他1954年就死了，才41岁。如果他还活着，今年也才67岁。不过现在他已经成了超级传奇人物，似乎很难想象这么传奇的人还活着。
克：他怎么死的？
桑：几乎可以肯定是自杀。他是同性恋，不得不应付外界的许多愚蠢和苛待。到最后他显然是承受不住，自杀了。
克：悲伤的故事。
桑：的确啊。让我难过的是，他从未目睹计算机在装置和理论方面取得的惊人进展。
帕特：嘿二位，你们不打算跟我讲一下吗，图灵的文章说了些什么？
桑：其实是关于两件事。一个是问“机器能思考吗”，确切点说是“机器最终是否能思考”。啊先说一下他认为答案是“能”。他回答问题的方式是把一系列的反对意见挨个驳倒。他试图表达的另一点是，这个问题字面上没什么意义，情感意味太重了。许多人被人是机器或者机器也能思考的提法搅得心神不宁。图灵试图用情感色彩没有那么强的措辞来化解这个问题。比如说，帕特，你怎么看待“思考机器”这个想法？
帕：坦白说，我觉得这个词让人困惑。你知道是什么让我困惑吗？是报纸和电视上的那些广告，它们说“能思考的产品”或者“智能烤箱”什么什么的。我真不知道应不应该太当真。
桑：我知道你说的那些广告，我想它们应该让很多人都感到了困惑。一方面，经常有人反复抱怨说“计算机真笨，你必须把每件事都详详细细地告诉它们”，另一方面，那些狂轰滥炸的广告又把“智能产品”吹得天花乱坠。
克：确实如此。你们知道吗，有个计算机终端生产商要把自己的产品叫作“傻瓜终端”，好让它们显得与众不同。
桑：倒挺可爱，不过这也是添乱。一想到这个，“电脑”（electronic brain）这词就总是跑进我脑袋。这个词，许多人轻易地就接受了下来，另一些人则不假思索地拒绝。很少有人能耐心地分析问题，看看它到底有多少意义。
帕：图灵有没有提到什么解决办法，比如某种针对机器的智力测试？
桑：如果有的话，一定很有趣，但还没有机器哪怕接近能做智力测试的水平。不过，图灵提出了一个测试，理论上能够用于任何机器，来测定它是否能思考。
帕：这个测试对这个问题会明确给出“是”或“否”的回答吗？要是它这么表示了的话，我可要怀疑了。
桑：它没有啦。某种意义上这正是它的一项优点。它显示了边界是多么模糊，整个问题又是多么微妙。
帕：那么，就像哲学中常见的那样，这个测试只是个措辞问题。
桑：也许吧，不过这些措辞感情充沛，因此对我来说，探讨这些问题，试着厘清关键措辞的意思，算是件重要事。这些问题对我们的自我概念来说十分重要，我们不该把它们扫到地毯之下，视而不见。
帕：那就告诉我图灵测试是怎么回事吧。
桑：这个想法是基于他所说的“模仿游戏”。游戏中，一男一女分别进入两间屋子，第三方可以通过某种电传打字设备向他们提问。第三方可以向任一房间提问，但不知道哪个人在哪个房间里。而询问者就是要弄清女人在哪个房间里。现在这个女人要通过她的回答尽可能地帮助询问者。但是男人要尽可能地迷惑询问者，假装女人来回答。如果他成功地欺骗了询问者……
帕：询问者只能看到写下来的话吧？然后觉得能从中看出回答者的性别？这个游戏听起来很有挑战性。我很想哪天参加一次。询问者在测试之前认识哪位回答者吗？他们中有人认识对方吗？
桑：那样可不大成。如果询问者认识其中一位，甚至两位都认识，所有难察难辨的暗示就都要冒出来了。三个人谁也不认识谁才最可靠。
帕：什么问题都能问吗，没有任何限制？
桑：那是当然。就得这样。
帕：那么，你不认为这个游戏很快就会滑向特别与性有关的问题吗？我能想象那个男人会在游戏中露馅，因为他会过于急切地想要表现得令人信服，所以会回答一些非常赤裸裸的问题，而多数女人都会认为这些问题过于私人，羞于启齿，即使通过匿名的计算机连接，她们也不会回答。
桑：嗯，有道理。
克：另一种可能性是盘问与传统性别角色差异有关的细节方面，比如女装尺寸等等。模仿游戏中的心理学可能非常微妙。我认为询问者是男是女可能会有区别。你不认为女人能比男人更快发现某些暴露真相的差异吗？
帕：这么说，或许这就是区分男女的方法！
桑：嗯……这又是个新情况。不管怎么说，我不知道有没有人认真试过原版的模仿游戏，哪怕是用现代的计算机终端来做会相对简单。不过我得承认，我也不确定，无论结果如何，它又能证明什么。
帕：我也很好奇这个。如果询问者——假设是位女性——没能正确分辨出谁是女人，能证明什么？肯定不能证明那个男人原本是女人吧。
桑：没错。我觉得好玩的就是，虽然我从根本上说相信图灵测试，但我不能确定这个测试的基础——模仿游戏本身意义何在。
克：我觉得用模仿游戏来测试“思考机器”，就像用它来测试女性气质，我挺不以为然。
帕：从你的话里我知道，图灵测试是模仿游戏的一种扩展，只是两个房间里的是一台机器和一个人。
桑：正是这样。机器竭尽所能让询问者相信它是人类，而人类则努力证明自己不是计算机。
帕：除去“机器竭尽所能”这样弦外有音的字眼，你说的这些非常有趣。但你怎么知道这个测试能触及思考的本质？也许它测试的是完全不该测的东西。随便举个例子，可能有人觉得只有机器跳舞跳得特别好，好到让人觉不出它是机器，他才认为机器能思考。还有人可能会提出些别的特征。机器能打字骗人，这又有什么了不起呢？
桑：我不明白你怎么能这么说。我以前听过这种反对意见，但老实说，反对得让人费解。机器不能手舞足蹈，不能搬起石头砸你的脚，又怎么样呢？如果无论你想谈什么，它都能应答得法，这不就表明它能思考吗？至少对我而言就是如此。依照我看，图灵干净利落地在思考和人类的其他特征之间划了一条清晰的界线。
帕：现在是你让人费解了。如果一个男人能在模仿游戏中取胜说明不了什么问题，一台机器能在图灵测试中取胜又能说明什么呢？
克：问得好。
桑：在我看来，如果一个男人在模仿游戏中取胜了，那就能说明点儿什么。你不能得出结论说他本来是女人，但是你肯定能说他很好地洞察了女性心理（如果真有所谓“女性心理”的话）。现在，如果一台计算机能够骗过某个人，以为它是人，我想类似地，你就得承认，它很好地洞察了做一个人是怎样的，洞察了“人的境遇”（不管它究竟是什么）。
帕：可能吧，但这也不一定就等于思考，对吧？在我看来，通过图灵测试只能证明有些机器能很好地模拟出思想。
克：我完全同意帕特的意见。我们都知道，今天那些精巧的计算机程序能模拟各种复杂现象。例如在物理学中，我们用它们来模拟粒子、原子、固体、液体、气体、星系等等的表现。但是没人会把这些模拟当作真事。
桑：哲学家丹尼尔·丹尼特在《头脑风暴》（Brainstorms）一书中，对模拟飓风也表达了类似的观点。
克：这个例子也很好。显然，计算机在模拟飓风的时候，它里面并没有发生一场飓风，因为计算机的存储器并没有被时速200英里的大风撕成比特碎片，机房的地板也没有被雨水淹没，等等吧。
桑：得了吧，这么说可不公平。首先程序员就没说过模拟就是真正的飓风。它只是模拟了飓风的某些方面。其次，你说模拟的飓风中没有倾盆大雨或者时速200英里的大风时，是在使障眼法。对我们来说当然没有狂风暴雨，但如果程序非常具体的话，其中就可能有一些模拟的人站在地上，遭遇这些狂风暴雨，就像我们遭遇飓风袭击时一样。在他们心中，或者就说在他们模拟的心中，飓风不是模拟，而是一个包含暴雨和破坏的真实现象。
克：哦，好家伙，场景真够科幻的！现在我们谈起模拟整个人群，而不是一个单独的心灵了。
桑：不是这么讲，我只是想告诉你，为什么你这个“模拟的李逵是李鬼不是真李逵”（the real McCoy）的论点是错误的。这依赖于一个默认的假设：能用旧眼光观察模拟现象，也同样能用旧眼光接触正在发生的事。但实际上观察者需要占据特殊的有利位置才能认清正在发生什么。具体在这个例子中，就是要戴上特殊的“计算机眼镜”，才能看见狂风暴雨等等。
帕：“计算机眼镜”？我不懂你在说什么！
桑：我是说要想看到飓风中的风雨，你必须用正确的方式去看。你——
克：不不不！模拟的飓风里没有雨！无论模拟对人来说有多像，它也永远不会真的有雨！也没有哪台计算机会在模拟风的过程中被撕成碎片！
桑：当然不会，但你把不同的层次混为一谈了。真正的飓风也不会把物理定律撕成碎片。在模拟飓风的例子里，如果你往计算机的存储器里巴望，指望找到断开的电线什么的，那你肯定会失望。你要往合适的层次看。应该去查看存储器中代码编写出的一个个结构。你会看到一些抽象的链接被破坏，有些变量的值变了很多，等等。这就是你要的大洪水，你要的大破坏——真真切切，只不过有点隐蔽，有点难发现。
克：抱歉，这可没法让我买账。你是执意让我寻找一种新型的大破坏，它本来与飓风毫无关系。按这种想法，你管任何东西都能叫飓风，只要戴上你那副特殊的“眼镜”看，它所造成的效果能叫作“大洪水和大破坏”就行了。
桑：对，你完全明白了！你认识飓风是通过它的“效果”。你可不能进入飓风，在风眼中间寻找某些虚无缥缈的“飓风的本质”“飓风的灵魂”！因为存在某种特定模式——中间有一个风眼的螺旋形风暴等等——你才会说它是飓风。当然你可以坚持说，你管什么东西叫飓风，还需要有许多条件。
帕：那你不认为成为飓风的一个关键先决条件，是它得是种大气现象吗？计算机里面怎么能有风暴？要我说，模拟就是模拟就是模拟！
桑：那我猜你会认为，就连计算机的计算也是模拟的，是假装的计算。只有人才能做真正的计算。是吗？
帕：嗯，计算机能得出正确的答案，所以它们的计算不能说全是假装，但这些仍然只不过是些模式。这里面没有发生理解。就拿收银机来说吧，它的齿轮彼此咬合着转动的时候，你真能说你认为它在计算吗？就我理解，计算机不过是一种豪华收银机罢了。
桑：如果你的意思是收银机没有学童做算术题那样的感觉，我同意。但这就是“计算”的意思吗？这是计算必不可少的部分吗？如果说是，那和至今以来大家的想法都相反。我们要写个非常复杂的程序才能进行“真正的”计算。当然，这个程序有时也会粗心犯错，有时答案会潦草得难以辨认，偶尔还会在纸上乱写乱画……它不会比邮局职员笔算你的总金额更可靠。那现在，我突然觉得这种程序最终也能写出来。这样我们就能知道邮局职员和学童是怎么做计算的了。
帕：我认为你永远也做不到。
桑：也许能，也许不能，但这不是我要说的。你说收银机不能计算，这让我想到丹尼特的《头脑风暴》中还有一段话我特别喜欢——这段话颇为反讽，这正是我喜欢它的原因。它大概是这么说的：“收银机不能真正做计算，它只能转动齿轮。但收银机也不能真正转动齿轮，它只能遵守物理定律。”丹尼特本来是说计算机的，我改成了收银机。你也可以用同样的推理来说人：“人不能真正做计算，他们所能做的只是操作心理符号。但他们也不能真正操作心理符号，他们所做的只是按照各种模式来发放（fire）各种神经元。但他们也不能真正发放神经元，他们只能让物理定律来为自己发放神经元。”等等等等。你难道没发现，丹尼特的归谬法会引着让你得出结论说，计算不存在，飓风也不存在，任何高于粒子和物理定律层次的东西都不存在？你说计算机只是摆弄符号，并不是真正在计算，又会有什么收获？
帕：这个例子可能太极端了，不过它也支持了我的观点：真正的现象和任何对它的模拟都有很大区别。对飓风来说是这样，对人的思维来说更是这样。
桑：哎，我不想在这个问题上过多纠缠，不过让我再举个例子。如果你是个无线电爱好者，在收听另一位无线电爱好者用摩尔斯电码广播，你也用摩尔斯电码来回答他，那么你叫他“无线电另一端的那个人”是不是听起来有点搞笑呢？
帕：不，这样说没什么问题，虽说是假设另一边有个人存在。
桑：是的，但是你也不能过去看呀。你准备去辨认对方的“人之为人性”（personhood），通过的途径却相当不寻常。你不需要看到这个人的身体或听到他的声音，需要的却可以说是一种相当抽象的展示——电码。我要说的就是这个：要“看到”短嘀和长嗒背后的人，你就要做一些解码和解读工作。这不是直接的感知，而是间接的。你必须剥去一两层，才能看到隐藏其下的现实。你戴上“无线电爱好者的眼镜”才能“看到”嘀嗒声背后的那个人。就像模拟飓风一样！你不会看到它让机房变得黑沉沉——你要给机器的存储器解码。你要戴上特殊的“存储器解码眼镜”，然后你就看见飓风了！
帕：欸欸欸，你慢点，别想滑过去！在短波无线电这个例子里，那边是个真人，也许在斐济群岛或者其他什么地方。我坐在无线电旁边解码，就说明了那个人存在。就像看见一个影子就能推论说那边有个东西投射了这影子一样。但没人会把影子和物体混为一谈！拿飓风来说，模拟飓风的背后并没有真的飓风让计算机来遵循其模式。你只有一个“影子飓风”，没有真东西。我只是拒绝把影子和现实混为一谈。
桑：好吧。我不想把这一点说死。我也承认，说模拟的飓风就是飓风有点傻。不过我想指出，这并不像你乍看上去时以为的那么傻。当你考虑模拟思维的时候，眼前的问题可是与模拟飓风有很大区别。
帕：我看不出来为什么。在我看来头脑风暴就是一场心理飓风。不过说正经的，你必须说服我才行。
桑：好吧，为了说服你，我还要先就飓风问题再补充几点。
帕：哦不！唉，好吧好吧。
桑：没人能说清楚——用完全精确的语言说清楚——飓风究竟是什么。许多风暴都有一种共同的抽象模式，因此我们管这些风暴叫飓风。但我们不可能在飓风和非飓风之间划出清晰的分界线。风暴有龙卷风、气旋、台风、尘暴……木星上的大红斑是飓风吗？太阳黑子是飓风吗？人工风洞里有飓风吗？试管里呢？你甚至可以在想象中把“飓风”的概念扩大到中子星表面的微观风暴。
克：这倒也不是牵强附会。“地震”的概念已经扩大到了中子星上。天体物理学家说，我们有时能观察到脉冲星发出脉冲的速率会发生微小的变化，这是由于中子星表面刚刚发生了“自转突变”——星震。
桑：对，现在我想起来了。“自转突变”这个概念给我的感觉是美妙的古怪——一种发生在超现实表面上的超现实震颤。[1]
克：你能想象吗，纯由核物质构成的一个巨大旋转球体上的板块构造？
桑：这个想法很疯狂。这么说星震和地震都可以归入一个更加抽象的新类别中。科学就是这样不断扩大我们熟悉的概念，让这些概念离我们熟悉的经验越来越远，只有某些本质保持不变。数字系统就是一个经典例子：从正数到负数，然后到有理数、实数、复数，再到什么“Z（斑马）以外”——苏斯博士的措辞。[2]
帕：我觉得我能懂你的意思，桑迪。生物学中有许多用相当抽象的方式来建立紧密亲缘关系的例子。确定哪些物种属于哪一科，往往就要落到这些物种在某一层次上的共有模式。如果你的分类系统是根据非常抽象的模式来建立的，那么我想许多种不同的现象都能归为“同一类”，虽然从许多表面特征来看这些同类现象彼此完全不像。因此，或许我能明白——至少能明白一点——为什么你认为模拟飓风在某些有趣的意义上也能是一场飓风。
克：或者扩大了含义的词不是“飓风”，而是“是”！
帕：为什么？
克：如果图灵能扩大动词“思考”的含义，为什么我不能扩大动词“是”的含义？我的意思无非是说，有人故意混淆模拟的东西和真正的东西，在哲学上做了许多障目之事。这比扩大几个“飓风”之类名词的含义要严重得多。
桑：我喜欢“是”的含义被扩大了这个想法，但我认为你的“障目”诋毁太过分了。总之吧，如果你们不反对的话，关于模拟飓风我再说一点，然后就开始进入模拟心灵的话题。请你们考虑一个非常逼真的模拟飓风——我的意思是逐个原子的模拟，当然我承认这种逼真度是不可能的。我希望你们能同意，这样它就有了所有能定义“飓风类事物的本质”的抽象结构。那是什么让你不能称它为飓风呢？
帕：我以为你刚才已经从二者相同的论点上后退了！
桑：是后退了，但是后来这些例子出现了，我不得不回到我之前的论点上。不过就按我刚才说的，我后退一步，回到思维的问题上，这才是我们这里的真问题。与飓风相比，思维是一种更抽象的结构，是一种描述方式，用来描述某些发生在脑这个媒介中的复杂事件。不过事实上，思维可以发生在几十亿个脑中的任何一个之内。这些脑的物理结构各不相同，但都能承担“同一件事”：思考。那么，重要的就是抽象的模式，而不是媒介。同样的“涡流”可以发生在任何脑中，所以没人能说自己的思考比其他人的更是“真货”。现在，如果我们设想同样类型的涡流也能发生在一种新型的媒介中，你还能否认其中也有思考吗？
帕：大概不能，不过你刚刚变换了问题。现在问题是，你怎么能确定发生的真是“同样类型”的涡流呢？
桑：图灵测试的妙处就是它能告诉你这个。
克：我一点也看不出来。你怎么知道计算机中发生的事与我心中发生的事属于同一类型？就因为它能像我一样回答问题？你只是看了它的外在表现。
桑：但是我和你说话的时候，你怎么知道我心中有类似于你所说的“思考”的东西？图灵测试是一个美妙的探测工具，有点像物理学中的粒子加速器。克里斯，我想你会喜欢这个类比。就像在物理学中一样，如果你想知道原子或亚原子层面上发生了什么，因为你不能直接看，所以你就把加速过的粒子发散到相关目标上，观察它们的运动方式，从中推断目标的内在属性。图灵测试把这种想法扩大到了心灵上。它把心灵当作一个“目标”，不能直接看到，但可以通过更加抽象的方法演绎出它的结构。你可以通过向心灵这个目标“发散”问题，了解它的内部运行方式，就像在物理学中一样。
克：更准确点说是，你可以去假设，有可能是哪种内部结构导致了所观察到的行为——但事实上这些内部结构可能存在也可能不存在。
桑：等等！你是在说原子核只是假设的实体？毕竟，原子的那些粒子发散了出去，它们的运动方式已经证明了——或许我应该说“暗示了”？——原子核的存在——或许我应该说“假设性的存在”？
克：在我看来，物理系统要比心灵简单得多，所得推论的确定性相应也大得多。
桑：做实验和解释实验的难度相应地也大得多。在图灵测试中，只要一个小时就能进行许多高度精微的实验。我坚持认为，人们相信别人有意识，只是因为他们一直在对别人进行外部观察——这本身就像是一个图灵测试。
帕：大体上说可能是这样的，不过这比只是通过电传打字机和人交谈要复杂一些。我们看到别人有身体，看到他们的脸和表情——我们看到他们是和我们一样的人类，所以我们认为他们会思考。
桑：在我看来，这种对思维是什么的观点似乎非常人类中心主义。这是不是意味着，与一个程序编得非常好的计算机相比，你更愿意说商店里的假人模特有思维，就因为模特看上去更像人？
帕：要让我承认一个东西有思考能力，显然不仅需要身体上与人类的外形有某些模糊的相似之处。但是不能否认，有机质（organic quality）和相同的起源，会在一定程度上提高可信度，这非常重要。
桑：这就是我们的分歧点。我觉得这简直太沙文主义了。我觉得关键问题是内部结构的相似性——不是身体结构、有机结构、化学结构，而是组织结构，即软件。一个东西能否思考，对我来说似乎是一个能否用特定方式描述其组织模式的问题，而且我非常愿意相信，图灵测试能探测到这种组织模式是存在还是不存在。我必须说，你以我的身体为证据来证明我是一个能思考的存在，这太肤浅了。在我看来，图灵测试要比只看外在形式深刻得多。
帕：嘿，你并没有让我更加信服。让人们相信某个东西真能思考的不仅仅是它的身体外形；就像我说的，还有共同的起源。即你我都来自DNA分子，我认为这个想法更深刻。这么说吧：人体的外形显示人类有着深刻的共同生物学渊源，是这种深刻让人们非常相信这样一个身体的主人能够思考。
桑：但这都是间接证据。你肯定想要一些直接证据吧？这就是图灵测试的目的。我认为这是测试“思维性”（thinkinghood）的唯一方法。
克：但你可能会被图灵测试欺骗，就像询问者可能会把男人当成女人。
桑：我承认，如果实施这个测试时太快、太浅显，我可能会被骗。但我会选择我能想到的最深入的问题。
克：我想看看这个程序是不是能看懂笑话。这才是真正的智力测验。
桑：我同意，对于一个据称有智力的程序来说，幽默大概是一场严峻考验，不过在我看来，同样重要、或许更加重要的，是测试它的情感反应。所以我会问它对某些音乐或者文学作品的反应，特别是对我最爱的那些。
克：要是它说“我不知道这首曲子”甚至“我对音乐不感兴趣”，怎么办？要是它回避所有与情感有关的问题呢？
桑：这就会让我产生怀疑了。如果它一直以特定方式回避某些特定问题，我就会严重怀疑跟我说话的是不是一个有思维的东西。
克：为什么这么说？为什么它不能是一个有思维但是没有情感的东西？
桑：你击中了敏感点。我只是不能相信情感和思维可以分离。换句话说，我认为情感是从思维能力中自动产生的副产品。思维的本性中必然蕴含情感。
克：那要是你错了呢？要是我造出来一台能思考但不会表达情感的机器呢？它的智力可能得不到承认，因为它通不过你那种测试。
桑：我希望你能向我指出情感问题和非情感问题的边界在哪儿。你可能想就一本伟大小说的含义发问，而这也需要理解人类的情感！这是思考，还是只是冰冷的计算？你可能想就一个微妙的措辞发问，为此你需要理解词语的言外之意。图灵在文章中举了这样的例子。你可能想问它对一个复杂的爱情关系有什么建议，这就需要了解人类的各种动机及其根源。现在如果它完不成这种任务，我就很难说它能思考。就我而言，思考能力、感受能力和意识，都是同一个现象的不同面向，没有哪一个能脱离其他面向而单独出现。
克：反正就是，为什么不可能造出一台机器，它什么也感受不到，但就是能思考、能做复杂决定？我看不出这里面有什么矛盾。
桑：我觉得矛盾。我想你说的时候想象的是一台四方形的金属机器，也许还待在一间空调房里——一个坚硬冰冷、有棱有角的物体，里面有上百万条彩色电线，一台一动不动地待在地板砖上的机器，嗡嗡作响或吱吱作响或怎么样，然后吐出纸条。这种机器能下一手好棋，我确实承认这需要做出许多决策。但我决不会说这样一台机器是有意识的。
克：怎么会？对机械论者来说，会下棋的机器不就是有了意识雏形吗？
桑：我这个机械论者不这么想。我认为，意识来自一种精确的组织模式——我们目前还没搞清楚怎么具体描述它。但是我认为我们可以逐渐理解它。在我看来，意识需要用一种特定的方式，在内部反映出外部世界，还要能根据在内部表征出来的模型对外部现实做出反应。除此之外，对一台有意识的机器来说，至关重要的是，它应该包含一个高度发达且灵活性（flexibility）强的自我模型。在这一点上，现在的所有程序，包括最好的下棋程序，都倒下了。
克：下棋程序不是能预测将来，在算下一步走法时对自己说“如果你走这儿，我就走那儿，要是你再这么走，我就那么走”吗？这不是一种自我模型吗？
桑：不算是。或者，如果你非要说它是的话，也是一种非常有限的自我模型。只有在最狭隘的意义上，才能说它是对自我的理解。比如说，一个下棋程序对自己为什么要下棋，对自己是一个程序、位于一台计算机中、有一个人类对手等等，通通没有概念。它也不知道输赢是什么——
帕：你怎么知道它没有这种感觉？你怎么敢说下棋程序有什么感觉或者知道些什么？
桑：噢，得了！我们都知道某些东西什么感觉都没有，什么都不知道。扔出去的石头对抛物线一无所知，旋转的风扇也完全不知道什么叫空气。我确实无法证明这些说法，现在我们都快说到信仰问题上了。
帕：这让我想起读过的一个道家故事。大概是这样说的。两位智者站在小溪上方的一座桥上。其中一个人对另一个人说：“真希望我是一条鱼。它们多快活！”另一个人回答说：“你怎么知道鱼快不快活？你又不是鱼。”第一个人说：“你又不是我，怎么知道我不知道鱼的感受？”
桑：太棒了！讨论意识确实需要有些限制。否则不是赶唯我论的时髦——“我是宇宙中唯一有意识的存在”，就是赶泛心论（panpsychism）的时髦——“宇宙万物都有意识”！
帕：谁知道呢？也许确实就是万物都有意识。
桑：有些人声称石头甚至电子之类的粒子也有某种意识，如果你要加入他们的话，我想我们就从此各走各路吧。这是神秘主义的论调，我可看不透。至于下棋程序，我碰巧知道它们是怎么运转的，我可以肯定地告诉你它们没有意识！绝对不可能有！
帕：为什么不可能？
桑：程序中只有对下棋目标的最基本知识。“下棋”这个概念被转化为反复不断地比较许多数字并选择最大的一个，这样的机械动作。下棋程序不会因为输棋而感到羞愧，也不会因为赢棋而感到骄傲。它的自我模型非常简陋。它只要花最少的力气，下棋完成任务就行了，不会多做一点事。但非常有趣的是，我们还是想谈论下棋计算机的“愿望”（desire）。我们说“它想把王放在一排卒子后面”“它喜欢早点把车走出来”或者“它以为我没有看出这步隐藏的棋路”。
帕：嗯，我们也这么说昆虫。我们在某个地方发现一只离群的蚂蚁，就会说“它想回家”或者“它想把那只死蜜蜂拖回蚁巢”。事实上，我们对什么动物都会使用这些带有感情色彩的语言，但我们并不能肯定它们能感觉到多少。我不觉得说狗或者猫高兴或悲伤、有什么愿望或相信什么等等有什么问题，但我肯定不会认为它们的悲伤像人类的悲伤一样深刻复杂。
桑：但你不会说它是“模拟的悲伤”，对不对？
帕：当然不会。我认为它是真实的。
桑：使用这种带有目的色彩或心理色彩的语言是在所难免的。我认为使用这种语言很正当，虽然也不要做得太过分吧。而且，将这些语言用于今天的下棋程序时，其意义也不像用于人时那么丰富。
克：我还是看不出为什么智力一定要包含情感。为什么你不能想象一种只有计算没有感受的智力？
桑：答案有几个！第一，任何智力都必须有动机。许多人可能认为机器的思维比人的更“客观”，但这完全不是实情。机器看到一个场面时，也必须集中注意力，按照预先设定好的范畴来过滤这一场面，就像一个人一样。这就意味着对事物要有所权衡取舍。信息处理的各个层次上都会发生这种情况。
帕：你的意思是？
桑：现在就拿我当例子吧。你可能以为我只是在提出一些智力方面的观点，不需要任何情感。但是我为什么会关心这些观点？为什么我特别强调“关心”这两个字？因为我在这场谈话里有情感投入！人们彼此交谈，是因为相信一些东西，而不是因为空洞机械的反射。即使是最理智的交谈，也是由某些底层的激情驱动的。每场对话中都隐藏着情感的暗流——谈话者希望获得倾听和理解，希望他所说的话获得尊重。
帕：听起来你的意思是，人们需要别人对他们说的话感兴趣，否则话就没法谈。
桑：对！如果没有兴趣驱使，我就不会费心去和谁说话。而兴趣只是各种潜意识偏好的另一总称。我说话的时候，我的所有偏好共同发挥作用，在表面这一层，你注意到的就是我的行为方式，我的人格（personality）。不过，这种行为方式来自大量小小的优先权、偏好和倾向。如果你把这上百万个相互影响的东西加起来，就能得到某种相当于各种愿望的东西。所有的都加进来！这也让我想起了另一个问题，关于毫无感受冷冰冰的计算。当然，无感计算是存在的：在收银机中，在袖珍计算器中。我要说，甚至今天所有的计算机程序也都是这样的。不过，如果你把足够多的无感计算组合成一个巨大的相互协调的组织，最后你就能看到另一个层面上出现了某些特性。你所能看到的——其实是你不得不看到的——不是一堆小小的计算，而是一个由倾向、愿望、信念等类的东西组成的系统。事情变得足够复杂之后，你就不得不改变描述的层次。在某种程度上这已经发生了，这就是为什么我们会用“想要”“思考”“试图”“希望”之类的词来描述下棋程序和机械思维在其他方面的尝试。丹尼特把这种层次转换叫作观察者“采用了意向性姿态（intentional stance）”。我想，只有程序自己对自己采用意向性姿态之后，人工智能方面才会发生真正有意思的事情！
克：那会是一个非常奇特的跨层次反馈回路。
桑：肯定。当然，我的观点是，对今天的程序采用完全意义上的意向性姿态，还为时过早。至少我的观点是这样。
克：对我来说，一个与之有关的重要问题是：在何种程度上对人类以外的东西采用意向性姿态是有效的？
帕：我肯定会对哺乳动物采用意向性姿态。
桑：我同意。
克：这很有意思！为什么会这样，桑迪？你肯定不会说猫狗也能通过图灵测试吧？但是你不是认为图灵测试是测试思维存在的唯一方法吗？你怎么能同时持有这两种想法？
桑：嗯……好吧。我想我必须承认，图灵测试只有对一定程度以上的意识才管用。可能有些有思维的东西也通不过测试。但另一方面来说，在我看来，只要能通过测试，就是真正有意识、能思考的东西。
帕：你怎么能认为计算机是有意识的东西？如果这听来像是刻板印象的话，那我道歉，不过当我想到有意识的东西时，我可不会把这个想法和机器联系在一起。对我来说，意识是和柔软、温暖的身体联系在一起的，虽然这听起来可能有点傻。
克：听一位生物学家这么说确实有点古怪。你们不是要用化学和物理的语言来对待生命，足以让所有神奇的东西都消失吗？
帕：也不尽然。有时化学和物理还会增加“那儿发生了些神奇事情”的感觉！反正吧我不是总能把我的科学知识和本能感觉整合在一起。
克：我想我也是这样。
帕：所以你要怎么解决像我这样的顽固偏见呢？
桑：我会试图挖掘隐藏在你的“机器”概念之下的东西，找到其中的直觉含义，这些含义看不见，但会深刻地影响你的观点。我想我们都有一种从工业革命时代残留下来的想象，觉得机器都是些笨重的钢铁装置，由某些轰轰作响的引擎驱动，笨拙地运转。说不定这甚至是计算机的发明者查尔斯·巴贝奇对人类的看法！毕竟，他把他那台有着许多齿轮的大型计算机叫作分析机（分析引擎）。
帕：哦，我当然不会认为人只是豪华型蒸汽挖掘机或电动开罐器。人有一些东西，就好像，好像——他们内心有种“火焰”，有种活的东西，有种不可预测、飘忽不定的闪光，但却是有创造力的东西！
桑：太好了！这就是我想听到的。这么想非常“人性”。你的火焰意象让我想起蜡烛，想起大火，想起漫天狂舞的雷电。但你是否意识到，就是这些景象，在计算机的操作台上也能看到？摇曳的光点形成众多迷人的无序闪烁图案。这与没有生命、叮当作响的金属堆有天壤之别！这就像是来自上帝的火焰！为什么你不能让“机器”这个词召唤出跳舞的光点图案，而不是什么大型蒸汽挖掘机？
克：这真是个美丽的意象，桑迪。把我对机器的理解从关注物质变成了关注景象/图案/模式。这让我试着把心中的想法——甚至就是现在的想法——想象成由脑中闪烁的小脉冲组成的巨大浪花。
桑：这些闪光组成的浪花想出了这样一幅自画像，可真是够诗意的。
克：谢谢。不过我还是不能完全相信机器就像我一样。我承认，我对机器的概念或许带有落伍潜意识的气息，不过这种根深蒂固的感觉我恐怕不可能一瞬间就改过来。
桑：至少看起来你确实算心态开放。说实话，我确实也部分理解你和帕特对机器的看法。我也有些不情愿把自己叫机器。认为一个像你我一样能去感受的存在可能只是从电路中产生的，这样的想法确实怪。我这话让你意外了吗？
克：确实让我意外。所以你还是就告诉我们——你是相信智能计算机这个想法，还是不相信？
桑：这都取决于你话的意思。我们都听说过“计算机能思考吗”这个问题。这个问题有好几种可能的解释（且不说“思考”这个词就有许多种解释）。这些解释都围绕“能”和“计算机”这两个词的不同含义。
帕：又回到文字游戏上去了……
桑：没错。首先，这个问题的意思可能是：“有没有一些当今的计算机现在就能思考？”对这个问题，我会立即大声回答：“没有。”然后，问题的意思还可能是：“某些当今的计算机，如果程序设计得当，是否有思考的潜力？”这个问题更合理点，但我仍然会回答：“大概没有。”真正的难题在于“计算机”这个词。在我看来，“计算机”唤起了我刚才描述过的形象：一间空调屋，里面有许多冰冷的四方形金属箱子。但是我猜，随着计算机结构的不断发展和公众对计算机越加熟悉，这种形象终将过时。
帕：你不认为我们所知道的这些计算机还会存在一段时间吗？
桑：当然，计算机肯定还会以今天的形象存在很长时间，不过更先进的计算机——也许不再叫计算机了——会演进变化得大不一样。或许会像活的有机体一样，它的演化树上也会出现许多分支。可能会有商务计算机，娃娃学习计算机，科学计算用计算机，系统研究用计算机，模拟任务计算机，火箭发射计算机等等。最后还会有研究人工智能的计算机。其实只有最后一种才是我感兴趣的——这些计算机灵活性极强，人们也是绞尽脑汁把它们设计得更聪明。我看不出它们有什么理由还要一成不变地保持传统形象。也许在不久的将来，它们的标准特征就是具有某些基本的感官系统——最初多半是视觉和听觉。它们要能移动，能探索。它们的身体也必须有灵活性。简而言之，它们必须变得更像动物，更加自力更生。
克：这让我想起《星球大战》中的R2D2和C3PO。
桑：事实上我想象智能机器的时候，一星半点也没想过它们。它们太傻了，太像电影设计师的凭空想象。不是说我自己有一个明确的想象，不过我认为，如果人们试图逼真地想象一个人工智能的话，就要超越今天的计算机所表现出的那种轮廓清晰的有限形象。所有机器的唯一共同之处只是底层的机械性。这听起来可能又冰冷又死板，但还有什么能（神奇地）比我们细胞中的DNA、蛋白质和细胞器的运作方式更机械？
帕：在我看来，细胞内部发生的事有一种“又湿又滑”的感觉，而机器内发生的事又干又硬。这与计算机从不犯错、只做你让它们做的事有关。至少这是我对计算机的想象。
桑：真有意思——一分钟以前你的想象还是火焰，现在就变成“又湿又滑”了。我们身上的矛盾是不是很不可思议？
帕：用不着讽刺我。
桑：我没讽刺你，我真的觉得这很不可思议。
帕：这只是人类心灵多变性的一个例子——这个例子中，就是我的心灵的多变性。
桑：没错。不过你对计算机的想象太落窠臼了。计算机当然会犯错，而且我说的不是硬件层面的错误。想想现在的计算机怎么预报天气吧。尽管程序运行得完美无缺，它也会做出错误的预报。
帕：但这只是因为输入的数据不对。
桑：不是这样。是因为天气预报太复杂了。所有这种程序都只能将就着用有限的数据（虽然这些数据完全正确）来进行推算，有时就会预测错误。这跟地里的农民看着天上的云说“我估计今晚会有小雪”没什么区别。我们在脑袋里构建模型，然后用这些模型猜测世界会怎样变化。不管这些模型有多不准确，我们也只能将就着用。如果模型太差，我们就会被演化进程淘汰——“跌落断崖”什么的。计算机也是一样。只不过人类设计者明确制定了创造人工智能这个目标，因此会加快演化进程，而自然只能误打误撞。
帕：那你认为计算机变聪明之后就会少犯错误吗？
桑：实际上恰恰相反。计算机越聪明，就越要处理现实生活中乱七八糟的事情，它们的模型就越有可能不准确。在我看来，犯错是高智能的一项标志！
帕：你这家伙，有时候还真让我吃惊啊！
桑：我猜在鼓吹机器智能的人里，我属于比较奇怪的一类。某种程度上我有点骑墙。我认为，除非机器具有某些相当于生物层面“湿滑性”的东西，否则它们不可能真正拥有像人类一样的智能。当然我不是说真的“湿”——软件倒可以“滑”，就是有灵活多变性。但是无论看上去是否像生物，智能机器无论任何还是机器。它们一定还是我们设计、建造出来的——“种”出来的！我们得明白它们如何运作，至少在某种意义上明白。可能没有任何单独一个人能真正明白机器是怎么运作的，但我们人类全体会知道。
帕：听起来你是鱼和熊掌想要兼得。
桑：也许你说得对。我的意思是，人工智能出现时，会既是机械的，同时又是有机的。它会具有惊人的灵活性，就像我们在生命机制中看到的那样。我说“机制”时意思就是“机械”。DNA和酶等等其实也都是机械的、严格的、可靠的。你不同意吗，帕特？
帕：确实如此。不过当它们一起发挥作用的时候，许多意料不到的事就发生了。这里面有非常多的复杂性和丰富的行为模式，会把所有这些机械的东西组合在一起，成为某种变动不居的东西。
桑：在我看来，从机械的分子层面到有生命的细胞层面，这种跃迁几乎不可想象。但正是它让我相信人也是机器。这个想法让我在一些方面感到不舒服，但在另一些方面，它也令人兴奋。
克：如果人就是机器，为什么说服人相信这一事实这么难呢？显然，如果我们是机器，就应该能认识到自己身上的“机器性”。
桑：必须允许这里面有情感因素。说你是机器，某种意义上就是说你只等于自己的身体部分，这会让你直面自己必有一死这件事。没人会觉得这件事容易面对。不过，除了情感方面的异议之外，要看到自己是机器，你就要从最底层的机械层面一路跳到复杂生命活动发生的层面。这里面有那么多的中间层级，它们就如同一道屏障，让我们几乎看不到自己的机械性。我想智能机器出现之后，它们在我们眼里也会是这样——甚至在它们自己眼里也是这样的！
帕：我听到过一个很好笑的想法，是关于真有了智能机器之后会发生什么的。我们试图给我们想要控制的设备输入智能时，它们的行为不会那么容易预测。
桑：也许内部会燃起一团奇异的小“火焰”？
帕：可能吧。
克：这想法有什么好笑的呢？
帕：呃，想想军用导弹。按照这个想法，它们跟踪目标用的计算机越复杂，它们的行为就越不可预测。最后导弹会决定要当个和平主义者，它们会掉头回家，轻轻落地而不爆炸。我们还会有些“聪明”的子弹，飞到半空中就会掉头回来，因为它们不想自杀！
桑：这个想法很可爱。
克：我非常怀疑这些想法。桑迪，我还想听你预测一下智能机器什么时候才会出现。
桑：大概用不了多长时间，我们就能看到某种有一点点类似人类智能水平的东西。不过对我们来说，智能依赖的物质基础，脑，还是复杂得惊人，在可预见的将来我们都无法复制它。反正这就是我的看法。
帕：你认为会有程序通过图灵测试吗？
桑：这个问题很难回答。我想所谓通过测试，也有不同程度之说，不是非黑即白的。首先这取决于询问者是谁，要是个大傻瓜，可能今天的某些程序也能完全骗过他。其次，这还取决于允许你探问多深。
帕：那么，可以有各种规模的图灵测试——1分钟的、5分钟的、1小时的等等。如果有官方组织定期为想要通过图灵测试的程序举办竞赛，就像年度计算机象棋大赛一样，这不是很有趣吗？
克：让最出色的裁判来组成评委会，把他们骗住时间最长的程序就是冠军。或许应该给第一个骗住某位著名裁判长达——比如说10分钟——的程序发个大奖。
帕：一个程序要大奖有什么用？
克：我说帕特，如果一个程序聪明得能骗过裁判，你不认为它也能享受大奖吗？
帕：当然，尤其如果大奖是参加镇上的晚会，与所有询问者跳舞的话。
桑：我很想看到举办这样的比赛。看第一批程序惨败想必很搞笑。
帕：你很怀疑是吧？那如果有一位老练的询问者，你认为今天有计算机程序能通过5分钟的图灵测试吗？
桑：我很怀疑。部分是因为没有人真正明确地在做这件事。不过，有个叫“帕里”（Parry）的程序，它的发明者声称它已经通过了一个最基本的图灵测试。帕里在一系列远程访谈中欺骗了若干名精神科医生，这些医生事先知道，和他们谈话的可能是一台计算机，也可能是一位妄想症患者。这是对一个早期版本的改进，在早期版本中，医生们只能看到简短访谈的手抄文字稿，然后要确定哪些是真正的妄想症患者，哪些是计算机模拟的。
帕：你是说他们没有机会提问？这是一个严重的不利因素，而且似乎与图灵测试的精神不符。试想如果有人要猜我的性别，却只能看到我说的只言片语的记录，这大概会很难！所以我很高兴看到实验流程有所改进。
克：你怎么让计算机表现得像妄想症患者呢？
桑：我没说它真的表现得像妄想症患者，只是某些精神科医生在某种不寻常的环境下认为它是妄想症患者。这个伪图灵测试中让我不安的一点，是帕里的运作方式。“他”——他们这么称呼他——表现得像妄想症患者，是因为他防卫性非常强，在交谈中回避不想回答的主题，而且大体上保持了自我控制，这样就没人真能探问“他”。这样一来，模拟一个妄想症患者就比模拟一个正常人容易得多。
帕：你不是在开玩笑吧！这让我想起一个笑话，说的是计算机程序模拟什么样的人最容易。
克：什么样的人？
帕：紧张症患者——他们连续好几天一直坐在那里什么都不干。连我都能写个这样的计算机程序！
桑：帕里还有个有趣的地方是，它不会自己造句。它只是从囤积的一大堆句子里面挑选，选出最适合的一句来回答输入的句子。
帕：这太神奇了！不过规模大了大概就不行了吧？
桑：是。要能在一场谈话中正常回答所有可能的句子，需要储存的句子是天文数字，完全不可想象。它们做起检索也会同样复杂……如果有人以为，只要设法拼凑一个程序，让它能像自动点唱机放录音那样，从存储的句子里拽几个出来，这样就能通过图灵测试，那他肯定没有认真想过这个测试。有趣的是，有些人工智能的反对者在反对图灵测试的概念时，援引的正是这种不可能实现的程序。他们想让你想象的不是真正的智能机器，而是一个又大又笨的机器人，只能用迟钝单调的声音吟出囤积的句子。他们还以为，即使机器执行任务的时候非常灵活聪明，足够令人满意，你还是能够轻而易举地看到它的机械层面。然后这些批评者会说：“你看，它仍然只是一台机器——一个机械装置，完全没有智能！”我看待事情的方式恰恰相反。如果有人给我看一台机器，我所能做到的事它也能做到——我的意思是通过图灵测试——我并不会感到受了冒犯或者威胁，我会像哲学家雷蒙德·斯穆里安一样说：“机器多了不起呀！”
克：如果在图灵测试中，你只能问计算机一个问题，你会问什么？
桑：嗯……
帕：这个问题怎么样：“如果在图灵测试中，你只能问计算机一个问题，你会问什么？”
反思
许多人都迟疑于图灵测试的规定：要求模仿游戏的参赛者和裁判待在不同的房间里，因此裁判只能观察到他们的言辞回应。如果这规则只是室内消遣游戏中的元素，那它尚有意义，但一种正当的科学方案中怎么能包含企图故意向裁判隐瞒事实的部分？图灵测试把智能候选者放进“黑箱”，只用一系列受到严格限制的“外在行为”（在本例中就是打字输出的言辞）作为证据，似乎是武断将自身建立在了某种形式的行为主义（behaviourism）之上，或者更糟糕，是操作主义（operationalis），甚至还要糟糕的证实主义（verificationism）。（这三个难兄难弟的“主义”是不久之前的可怕怪物，据说已经被科学哲学家们彻底驳倒并埋葬了。但这里又是什么讨厌的声音？它们是不是还在坟墓里动弹？我们早该把木桩戳进它们的心脏！）图灵测试是否只是一例约翰·塞尔所说的“操作主义把戏”？
图灵测试当然在“对心灵来说重要的是什么”这个问题上有很强的主张。图灵提出，重要的不是候选者两耳之间有哪种灰质（如果有的话），也不是它看起来、闻起来是怎样的，而是它能否有智能地行动——或行为，如果你愿意这么说的话。图灵测试中的具体游戏，即模仿游戏，并没有多么神圣不可侵犯，只不过是一个精心选择出来的测试，用来测试更为一般性的智力罢了。图灵准备提出的假设是，除非一个东西能够从事各种各样无疑需要智力的活动，否则它就不可能赢得模仿游戏，也就不可能通过图灵测试。如果他选择把赢下世界象棋冠军当作检测智力的试金石，我们倒是有许多强有力的反对理由，现在看来，我们很有可能造出一台做得到这事的机器，但这台机器别的什么事儿也不能做。如果他选择的测试是不用武力只身偷窃英国王室珠宝，或者不流血地解决阿以冲突，倒是很少有人会反对说，他把智能“还原为”行为或者用行为给智能下了“操作性定义”。（好吧，毫无疑问，有些哲学家有时也会绞尽脑汁构建一个煞费苦心但稀奇古怪的方案，让某些彻彻底底的傻瓜无意中就拿到了英国王室珠宝，“通过”测试，并借此“反驳”该测试是一个好的一般性智力测试。当然，真正的操作主义者必须承认，既然这样一个幸运的傻瓜通过了决定性的测试，那么以操作主义的眼光来看，他就是真正地具有智力——这无疑就是真正的操作主义者很难找到的原因所在。）
图灵选择的测试优于偷窃英国王室珠宝或解决阿以冲突，是因为后两个测试（一旦成功过一次之后）不可重复，过于困难（许多显然有智力的人都会在这上面完败），而且太难客观评判。图灵测试就像设计巧妙的押注：它诱人尝试，看起来公平，要求苛刻但是可能做到，而且评判时干脆客观。图灵测试也以另一种方式让人想起一场押注，其动机是用“要么下手，要么闭嘴”来制止一场无休止的无益辩论。图灵其实是在说：“与其争论心灵或智力的终极本性、实质，不妨让我们都同意，无论是什么东西，只要能通过这一测试，就肯定是有智力的，然后再来问怎样才能设计出能光明正大地通过测试的东西。”具有讽刺意味的是，图灵没能平息争论，只是改变了它的方向。
图灵测试是否因其“黑箱”性的思想观念（ideology）而难以抵挡批评？第一，正如侯世达在对话中指出的，我们都把彼此当作黑箱，我们都根据对显见的智能行为的观察来建立我们对“他心”的信念。第二，在任何情况下，黑箱思想观念也都是所有科学研究的思想观念。研究DNA分子的时候，我们用各种方法探测它，观察它的反应；我们也是如此研究癌症、地震和通货膨胀的。如果我们关注的是宏观对象，那么“往黑箱里面看”往往很有用，方法是用探测工具（如手术刀）把它“戳开”，让暴露出来的表面所散射的光子进入我们的眼睛。这只是又一个“黑箱实验”而已。[3]正如侯世达所说，问题不过是，哪种探测工具与我们想要回答的问题有最直接的关联。如果我们的问题是某些东西是否有智力，那我们就找不到比我们每天都在互相问的问题更直接、更有效的探测工具了。图灵的“行为主义”，只不过是把某些近乎不言而喻的东西纳入了一个简便易行、具有实验室风格的实验性测试中。
侯世达的对话中还提到了一个问题，但未加解决，就是关于表征的问题。用计算机来模拟某种东西，通常是对这种东西详尽、“自动”和多维的表征，但表征和现实之间当然有天壤之别，不是吗？正如约翰·塞尔所说：“没人会认为只要用计算机模拟泌乳和光合作用的形式性事件序列，然后运行这些模拟，我们就能生产出奶和糖……”[4]如果我们设计了一个在数字计算机中模拟奶牛的程序，那我们的模拟只不过是奶牛的一个表征，不管你怎么“挤奶”，它也不会产奶，最多只能产出奶的表征。无论表征有多好，无论你有多渴，你也没法喝它。
但现在，假设我们用计算机模拟了一个数学家，而且假设这模拟工作得很好。那我们会不会抱怨说，我们想要的是数学证明，但是，唉，我们得到的只是证明的表征？可是，证明的表征就是证明，不是吗？这取决于表征的优秀程度。动画片里表现科学家面对黑板沉思时，黑板上画的证明和公式通常纯是胡说八道，无论这些数字在外行看来有多“逼真”。如果模拟的数学家像在动画片中那样造出了一些装模作样的证明，它可能仍然模拟了理论上有些意味的有关数学家的某种东西，如他们的言语习惯，甚或他们的心不在焉。另一方面，如果模拟是为了产生优秀数学家所能造出的数学证明的表征，那它就会像真正的数学家一样，成为生产证明的系科的宝贵“同行”。这似乎就是数学证明和歌曲之类抽象的形式产品（见下篇选文《圣美公主》）与牛奶之类具体的物质产品之间的区别。心灵属于哪一类呢？心理是像牛奶，还是像一首歌？
如果我们认为心灵的产物是某种类似“身体操控”的东西，那这一产物似乎相当抽象。如果我们认为心灵的产物是某种特殊的物质或许多种物质，比如很多很多“爱”，一两撮“痛”，一些“狂喜”，还有几盎司所有优秀棒球手都拥有的很多“愿望”……那么这一产物似乎很具体。
在争论这一问题之前，我们可能要先停下来问问：如果我们遇到了一种模拟，模拟任何具体事物、现象都详尽出色，那我们所要推广的上述区分抽象和具体的原则，边界是否完全清晰？任何模拟要实际运行，都要在某种具体的硬件中“实现”，表征的媒介本身也一定会在世界上产生某些影响。如果一个事物的表征在世界上所产生的影响，与这个事物本身所产生的影响完全相同，那么还坚持说它只是表征，听来就太任性了。下篇选文妙趣横生地展示了这一想法，而本书其余部分还会反复出现这一主题。
D. C. D.
[1] 木星大红斑（the Great Red Spot）是木星表面的超大风暴气旋。中子星（neuron star）是恒星演化末期坍缩后的一种终点，密度介于白矮星和黑洞之间。脉冲星（pulsar）目前主要认为是旋转从而产生周期性脉冲的中子星。而“自转突变”（glitch）——一般是突然加快——则会干扰脉冲周期。glitch一词常见义为“故障”“（信号）干扰（音）”，所以有“古怪”“震颤”之类的联想。
[2] 苏斯博士（Dr. Seuss，1904-1991），美国儿童文学家、教育学家。《斑马以外》（On Be yond Zebra）是苏斯博士创作的绘本之一，该书编造了许多26个英文字母以外的字母——“斑马”英文为Zebra，首字母Z，“斑马以外”即是Z以外的字母。
[3] 这里的描述借用了物理学中的“黑箱实验”。
[4] 见选文22《心灵、脑与程序》，第396页。——原注