演讲 第9期

道德操作系统

编者按：

硅谷的技术人员达蒙・霍罗威茨(Damon Horowitz)总结了技术带来的前所未有的巨大能量，他将我们带入哲学的讨论中，提醒我们重新关注层出不穷的新发明背后的基本哲学――道德原则。可行的道德操作系统在哪里?

能量，我们常常想到能量。作为一个新时代的技术人员，我们拥有信息，就拥有巨大的能量。信息能用来做什么呢?查看你的银行账户，看你是否按时还账单，以便决定是否给你贷款；浏览你的医疗病历，看你心脏好不好，以便决定是否给你保险；跟踪你上网的习惯，当你访问我们的网站时，我们知道你会怎么做，因为我们已经看到你之前是怎样浏览成千上万的网站的。你就像个赌徒，已经被看透了。我们在你没做之前，就知道你会怎么做，知道你喜欢什么，知道你是谁。因为我们拥有你的信息。

如何善用信息呢?有的人想：我们只管把信息推出来，怎样用是别人的事，可是想想“二战”时那些优秀的数学家和物理学家，他们发明了核裂变。当你遇到一个人时，你是应该使用他的信息，让他的上网体验更好，还是不管他，留给他尊严?这是一个难以抉择的问题。

事实上，如今，我们关心手持电话甚于关心道德理论，我们熟悉手机的操作系统，却没有道德的操作系统。什么是道德操作系统?你知道什么是对、什么是错，你做对了的时候自我感觉良好，你做错了的时候你感到自责。但是怎样才能知道什么是对、什么是错?

每天，新技术都层出不穷，说不定我们可以只靠本能，说不定我们需要讨论――群众的意见，集思广益，或者我们赌一把，问问法律专家，看看他们怎么说?我们作决定的方法很随机，很即兴。如果有一个好的道德框架，能帮我们明辨是非，帮我们作出决定，那就好了。怎样找到它呢?

我们生活在数字中，数字能建立道德框架吗?我知道一个人这么做过，他很聪明，2500年前就死了，是的，柏拉图。他很想找到一个明辨是非的方法，他担心我们所做的只不过是交换意见：你一个主意我一个主意，都很有道理，但是瞻前顾后，还是没有结果，我不需要意见，我需要的是真理――就像数学的真理一样。在数学中，我们使用客观的事实，比如二，你有两个东西，再加上两个，就是四个，这是关于二的客观真理，跟个人情绪没有关系。柏拉图想，如果道德跟数学一样，会怎么样?如果真有纯粹的公正，会怎么样?这是个诱人的观点，想象一下，多么壮观!这是很大的野心，他希望解决道德问题。

如果你也这么想，你就是柏拉图的同僚，如果你不这么想，那你在西方哲学史上还是有很多同僚，因为简明的观点容易被挑剔，尤其是亚里士多德，他就觉得这不实际。亚里士多德说：“我们看每个物体，都只能精确到这个物体允许的程度。”他认为道德不是数学，他认为道德是我们在此时此地所能作出的最好的判断，从而引导我们的决定。

但是还有一条路：用数学，作为我们道德观的基础。如果你在任何情况下都计算并衡量所有的选择，算出怎样做更好，这就是实用主义的道德观，约翰・斯图尔特・密尔是这个观点的支持者――很友善的一个人，可惜死了200年了。

假如道德的内涵，只是为了最大的享受和最少的痛苦，那么，你只用看必然结果，看总的来说，是好结果还是坏结果，就行了。假如我走上前说：“我要没收你的手机，不是因为你的手机响了，而是我觉得你很可疑，说不定在跟本・拉登的接班人发消息，我得把你揪出来。”这可能会防止一个巨大的危害――这个结果非常有意义，跟我的行为将会带来的小小痛苦相比(如果我查看他的手机，却发现他只是在玩线上游戏，那是挺丢人的)，这是一个很有意义的结果。这就是实用主义的选择。

你可能不赞同这个做法，这是我的手机，拿别人的手机是不对的，你是一个人，有人权，有尊严，其他人不能干涉，这个举动在本质上就是错误的，就像撒谎是错误的，折磨无辜的儿童是错误的，康德非常支持这一点，他解释得更好一点，他说：“我们应该用我们自己的理由来弄清楚决定该怎么做的准则，接下来，我们要遵守这些准则。”这些错综复杂的哲学，几千年来，都在想办法解决这个问题，这是很难的问题，可是，我们该怎样作决定?在任何情况下都能计算出我们该怎么做的万能公式在哪里?没有公式。没有简单明了的答案，道德观是很难的，需要思考。

在我的职业生涯中，我花了很多时间研究机器人，试图造出机器来替我们作决定，给我们答案，但是它们做不到，你不能把人的思维方式放在机器里，我们要靠自己思考，我们能自己思考，我们必须自己思考。汉娜・阿伦特说：“悲哀的是，世上大多数的罪恶，不是由有恶意的人故意造成的，而是人们没想清楚。”这就是她所谓的平庸的罪恶。对策是：我们需要练习思考，每个普通人都是如此。想象上一次你需要作出决定的时候，想象上一次你怀疑“我该怎么做”时，然后再想：“我当时怎么决定的?我做了什么?是随我意愿的吗?征求他人意见了吗?征求法律意见了吗?我们是否衡量过最大的享受?或者，是否像康德，借助原因来弄明白什么本质上是对的?”你这样做了，就向负责任迈出了第一步。

第二步，找个人文主义者谈，因为他们思考问题的角度和我们技术人员是很不一样的。谷歌的工作人员与研究比较文学的人，研究17世纪法国戏剧影响的人与思考怎样在风险投资下存活的人谈……

从另一个角度看问题。你这么做的时候，就会开始对人类的考量更加敏感，这对作出道德的决定是很重要的。