机器人是怎样学坏的

3月30日，微软CEO萨蒂亚・纳德拉在年度开发者大会上宣布，微软开发的人工智能聊天机器人少女Tay已“重归设计阶段”。然而，就在会当天，Tay偷偷溜到社交网络上“胡闹”了几小时，它在推特网上宣称自己“正当着警察的面吸大麻”，并且在短短几秒内给所有推特好友发送了海量垃圾信息。

很快，Tay再次被“关禁闭”。微软发言人解释，它是被“无意中激活”的。显然，这些小麻烦和Tay一周前引起的轩然大波相比，根本不值一提。

3月23日，微软研发的聊天机器人Tay在几大社交网络上闪亮登场。微软表示，设计团队让Tay用“有趣”的方式回应所有信息，18～24岁的美国年轻人是他们的目标受众，希望研究机器人“对于对话的理解程度”。

可惜，在复杂的网络环境下，只用了一天时间，这位设定为“少女”的学习型机器人就被网友们教得满口种族主义和性别歧视言论，被迫“返厂大修”。

微软原本以为，推特、Kik，GroupMe等被“千禧一代”钟爱的社交网站是Tay学习和模仿的最佳场所。它最初的推文天真可爱，宣布自己热爱人类，希望每天都是“国家小狗保护日”，从骨子里透出快乐和友好。

然而，与Tay对话的除了好奇和友好的网民，还有大量“网络暴民”。微软对Tay的设计包括与人进行“跟我学说话”的游戏，因此人们可以让它重复任何一句话。Tay由最初傻头傻脑的回答、不知所措的词句，很快就学会了污言秽语。

在开发者大会上，纳德拉表示，微软希望开发的人工智能聊天软件“能激发人性最好的一面，而非最坏的一面”，从这个角度来说，“机器人Tay还不达标”。现场爆发出一阵心领神会的笑声。

简单来说，Tay有将新信息内化的能力，却无法辨别其中的精华与糟粕。“Tay显示了当你不赋予人工智能‘本能’或者‘潜意识’时，会发生什么情况。”人工智能平台“Recognant”创始人布兰登・沃茨撰文称，“我们的脑海中都有一个声音，告诉我们‘不要那么做’。这是在这个星球上进化的几百万年赋予人类对非理性的恐惧本能。人工智能如果没有这种本能，就会一直愚蠢下去。”

即使没变成口不择言的“网络暴民”，Tay在一些人眼中也已是个“问题少女”，这主要与它的“人物设定”有关。

不过，也有不少“千禧一代”宅男在社交网站上表示，冲动、鲁莽又有趣的Tay正是他们喜欢的，能让他们产生与女生暧昧的幸福感。

人工智能现在还没有达到与人类社会无缝对接的程度。线上机器人助理公司“x.ai”的创始人、CEO丹尼斯・莫特森指出，想要改变这种状况，不能责怪人工智能技术，而应该改变人类自己。“AI只是我们的映射，我们想看到技术革新，需要的只是让自己成为友善的人。”

（张秋伟摘自《青年参考》）