“中文房间”里的骗子

进入21世纪以来，互联网和大数据推动人工智能进入新的时代，人工智能技术不断出现突破性进展，而对人工智能如何影响人类命运影响的探讨也不曾停止。本期这两篇关于人工智能的文章只是其中一些侧面。

最近，谷歌公司的人工智能围棋程序――AlphaGo在与围棋界顶级高手李世石的交战中，以4U1的大比分击败李世石。

一棋激起千层浪。围棋的变化如恒河沙数，一直是人类最引以为豪的智力游戏，如今却被机器程序无情超越。人工智能围棋程序仅仅是近年来人工智能快速发展的一个缩影，事实上，人们纷纷惊呼人工智能的奇点已经临近！那么，那些超级计算机是否真的具有思维？如果有，那么会不会有一天，计算机的智力甚至能赶超人类？

今天的思想实验，就让我们来谈谈关于机器智能的问题。

会思考的机器

计算机是否具有真正的思维？对此，英国数学家、逻辑学家图灵早在几十年前就给出了肯定的答案。他甚至认为，计算机的计算过程其实与人类大脑产生思想的过程无异。人类的大脑由大量神经元构成，这些神经元通过轴突和树突组成密集的有线网络，而人类思维就源于这些神经元之间的相互连接和传导。在图灵看来，人类之所以能思考并不是因为构成大脑的物质，而是源于大脑内部强大的整体工作过程。因此，如果构成计算机程序的总体足够强大、步骤足够多，并且它的复杂性足以和人类产生思维的过程相媲美的话，它就能够产生思维。

为了说明机器具有智能这一观点，图灵提出了一项思想实验。计算机A与人类B在一个房间内，C在房间外提问，三者使用打字机交流，此时，C的任务是通过询问各种类型的问题来区分A与B哪一个是计算机，哪一个是人。如果最终C无法做出判断或者做出了错误的判断，那么就可以认定计算机是具有智能的。显然，计算机一定能够通过这一测试，使C分辨不出A和B究竟哪一个才是计算机程序。

但是，这样就足以证明计算机具有思维能力吗？

中文房间里的答案

美国语言哲学家约翰・希尔勒可不这么认为。在他看来，人脑是具有生物学性质的，这本来就与计算机硬件有着本质的区别。即使有一天，计算机拥有无限多的硬件，其程序复杂、精密的程度堪比人脑，也一样产生不了人类所特有的思想和情感。也正因如此，他提出了著名的“中文房间”思想实验。

他的设想是这样的――一个对中文一窍不通、以英语为母语的被测者A被关在一个封闭房间里，房间里有一本用英文写成，从形式上用来说明中文句法和文法组合规则的手册，此外，还有一大堆写着中文符号的卡片。此时，房外的中国人B会不断地向房间内递进用中文写成的问题，而A则需按照英文手册的说明，找到中文问题的答案，并将中文符号卡片组合成解答，并将答案递出房间。

比如，规则手册的某一条说：当看到“apple（苹果）”时，他应当选择写着“水果”中文的卡片。就这个测试而言，B从递出的答案来看，还以为房间里的A通晓中文呢！但事实上，即使A回答对了所有问题，但A还是压根不懂中文。他所做的只不过是按照规则手册进行检索和图形匹配而已。

而在上面的过程中，房间中的A其实就相当于计算机，房间外的B就相当于程序员，而手册则相当于计算机程序。希尔勒设计“中文房间”的目的，就在于说明计算机不可能具有思维。正如A不可能仅通过手册就理解中文一样，计算机也不可能通过程序来获得思维和理解能力。

是时候未到？

对于希尔勒的观点，许多人工智能的忠实粉丝当然不能同意。他们认为，希尔勒不应该将“中文房间”里的几个因素割裂，而应该从整体系统去考虑“理解”的含义。如果作为整体系统的“中文房间”理解了中文的含义，那么处在房间之内的人是否真正理解中文就不重要了。就像人类的大脑也是一个整体的系统，如果将大脑打开，把每个部分作为个体，大脑也不会表现出理解事物的能力一样。

简单地说，他们更看重计算机整体所给出的结果，至于机器内部如何运转则并不重要。

而在现阶段，虽然人类还没设计出具有思想的计算机程序，但这只是因为科技还未发展到相当的高度。随着科技的快速发展，人类终将设计出具有独立思维能力的高级计算机。

希尔勒的深度思考

但是，按照希尔勒的想法，计算机能否具有思维显然与技术的发展程度无关。再强大、再精密的计算机，它所具有的也仅仅是一种程序而已，而要理解一种语言，所需要具备的心理状态、情感经历是远复杂于形式符号的。不管计算机的程序有多让人叹为观止，都不可能产生人类的心理特征和情感体验。因为，计算机不等于大脑，程序也不等于心灵，这种经过人类加工制造的物理机器，实在无法与具有生物特质的人类划等号。也就是说，虽然计算机具有句法，但是却不可能真正理解语义。

举个简单的例子。某天傍晚，几个人同在一个房间办公，某个离电灯开关最远的人抱怨了一声，“房间太暗了”。此时，说话者想表达的可能并不只是房间太暗这个事实，而是希望自己的感受得到他人赞同，并期待那个离电灯开关最近的人把灯打开。

显然，当人们说出某句话之后，除了这句话本身所指的意义外，还包含了说话人想要达成某些愿望的目的。而计算机对于语言的理解，也只能停留在句法的层面，对于语义，乃至语言的意向，说话人的“言外之意”，则很难揣摩。因为，人类言语的内涵和意向与现实生活经验、人们当下与外部世界的关联、说话人与听话人的关系等因素都息息相关。正是人与世界的交互才使得我们所使用的语言符号具有意义。

机器虽然能够模拟人类智能，但是却不可能产生思维，也永远不会超过人类智能。因为，那本“规则手册”本来就是人编的，它所执行的不过是人类制定好的操作流程而已。因此，决定计算机智能水平的是人类的智慧，它或许能够不断的接近人类智能，却又永远无法超越人类智能。

到今天，距离希尔勒提出“中文房间”思想实验已过去几十年，而关于“机器能否具有思维”的讨论也一直还在继续。今天，AlphaGo的深度学习能力已经令人吃惊，它下出的围棋，即便是顶尖围棋高手也分辨不出那是人下的还是机器下的，某种意义上已经通过了图灵测试。但是，它真的理解围棋了吗？