机器纪元 人工智能又失控了

天空昏暗，酸雨降下，人们穿着脏兮兮的塑料雨衣在破旧建筑物之间穿行。中英文混杂的霓虹招牌，城市上空巨大的立体投影，阴郁的情绪和无尽的荒凉。这是《机器纪元》中三十年后的世界。

在这部电影中，导演使用了真正可操作的机器人，而非在大多数类似电影中看到的CGI角色。这些机器人外表简陋、动作缓慢，更像是历尽沧桑的工业机械，看起来极近真实。只有两条原则制约了机器人的行为：第一，机器人不可伤害任何生命；第二，机器人不可维修或改造自己或其他机器人。

毫无意外地，机器人失控了。有个机器人突变而不受第二定律的影响，于是诞生了一个新的智慧物种，这就像《终结者》或者《黑客帝国》。

机器人的原则

幸好这只是科幻。机器人这个词从第一次发明出来到现在，还差六年才到一百年。但是机器人已经出现在生活的各个方面，从打扫卫生的Roomba到宠物小恐龙Pleo和宠物狗AIBO，再到在生产线上组装生产其他机器的机械手们，人们正在和越来越多的机器人生活在同一个世界。当然，它们并没有智能，最多只是看起来似乎有智能的样子。

日本信息业巨头软银公司现在也进入了家用机器人市场，并将在明年二月一款叫作“Pepper”的人形机器人，能够运行一些应用程序，还能识别人的情绪并做出回应。这款机器人的身高和6岁孩子相仿，有光滑的珠白色外壳，靠一组轮子行走，胸前还有一块平板电脑。它有多种传感器，能通过对面部表情和语音的分析来判断人们的情绪，还能学习应对这些情绪的最好办法。最终，这种小机器人会成为帮助我们改善情绪的朋友―而它的售价将不到2000美元。然而，它依然没有智能。今天的机器人，只是由计算机控制和驱动的一些运动部件。无论外观多么像人，决定它们行为的依然是计算机的逻辑运算。诸多与机器人有关的科幻电影将机器人描述为智慧与人类相仿甚至更高的新造物，但却对一个关键问题语焉不详：智能是如何开始的？

人工智能之梦

不幸的是我们现在也没有确切的答案。从20世纪50年代开始，在教会机器思考这一领域，人们尝试了多种方法，包括让机器学量人类知识、让它们从经验中学会总结，把它们设计成类似生物大脑的结构，以及将能够自我学习的程序放到浩大的知识海洋之中；但是直到现在，我们依然没有办法制造出真正可以思考的机器。我们无法理解自己的智能，自然也无法把它赋予机器。

于是我们发现，近期的人工智能电影，无论是《超验骇客》还是《超体》，都用了另一种方式来创造更强大的智能体：以人为基础，再加上计算机的输入输出和存储计算能力。这样，人们最少还能和这些智能体沟通；而当机器人学会自行进化时，就像《机器纪元》中的台词那样：到了第九天，我们已经无法理解它了。

伟大的科幻作家艾萨克・阿西莫夫早就为机器人拟定了三定律：第一，机器人不可伤害人或看到人被伤害而无动于衷；第二，除非违背第一定律，机器人必须服从人类的命令；第三，除非违背之前两条定律，机器人必须保护自己。后来又加上了第零定律：机器人不得伤害人类，或者因不作为而使得人类族群受到伤害。

这几条定律成了20世纪诸多机器人主题科幻作品的核心，也经过多次修正。人们恐惧地意识到，如果没有这些定律的约束，在高效而强壮的机器面前，人类脆弱得不堪一击。指望智慧比我们强得多的造物与我们相安无事，就像是蚯蚓祈祷靴子不要踩下来一样。

在《机器纪元》中，机器人的原则写进了仿生内核中，成了机器人智能的基础；因为这两条原则是由一部量子大脑拟定的，它的智力远超过人类可以理解的程度，因此人们完全无法改造它；但即使如此，也敌不过自然突变。

可能的未来

20世纪最重要的未来学家和发明家雷・库兹韦尔曾经提出过著名的“技术奇点”理论，认为人类文明的发展速度正在迅速加快，在2040年-2050年，将迎来一次智慧的大爆炸。也许到那时，世界上将会出现真正有智力的机器人，这很可能意味着历史上从未有过的繁荣时代，或者前所未见的巨大危险。

如果没有任何限制，人工智能的演化速度将会比人类进化得快得多。而无论是《机器纪元》中的两原则还是阿西莫夫的机器人三定律都无法控制它；这些定律本身的定义太过模糊，而可行性堪忧。我们只能指望人工智能们离开人类，去创造自己的新世界。

美剧《疑犯追踪》描述了两台人工智能机器的对抗。在早期，一台机器已经拥有了相当程度的智能，但是被它的开发者全部删除了。因为哪怕只有一点瑕疵都会酿成人类可能无法承受的后果―能力越强的机器，越应该被严格控制。

但是，这毕竟只是一厢情愿的设想。当机器有了智能，那么随之而来的必然是自我意识。计算机从苏醒到挣脱人类的控制，可能只需要短短一瞬间，我们没有足够结实的锁链来控制如此强大的造物。

对于机器人来说，这是亚当和夏娃走出伊甸园，是第一条鱼爬上岸，是未来的开始；而对人类来说，这可能意味着一段全新的未来，或者整个族群历史的终结。