看过的机器人越多，越可怜人类

　　头伦理问题，已经成为近两年国内外人工智能领域的热门话题。
　　欧盟委员会于今年4月8日发布了人工智能伦理准则，以提升人们对人工智能产业的信任。而联合国教科文组织自2018年12月12日至今，已经在世界各地举办了多场人工智能论坛，专门研讨人工智能发展的主要伦理原则。中国的人工智能治理专业委员会也于今年初展开了相关讨论。
　　然而，正如联合国教科文组织总干事阿祖莱所说由人工智能所引起的问题并非技术问题，而是关于人类自身的人性，涉及科学、政治、哲学和道德方面的关切。人类关注AI或机器人领域的伦理问题，究其根源，还是这种灵长类动物自身可悲而又可怕的天性。
　　ImafraidI
　　你知道机器人，即R这个词是怎么来的吗？
　　1920年，捷克作家卡雷尔恰佩克写下了剧本《R。U。R。》，这是个关于科技可能使人失去人性的警示故事。其中，R。U。R。是罗素姆通用机器人（Rossum’sUniversalRobots）的缩写，正是这个剧本将R一词引入了现代世界。
　　然而，Robot这个词本身来源于捷克语R，意为由农奴从事的强迫劳动。它的斯拉夫语词根R的意思则更加直白奴隶。
　　正如你猜想的那样，在这部剧中，机器人被生产出来给人类当奴隶，但他们终究因受不了人类压迫而反抗。机器人甚至成立了自治组织，正式向人类宣战，直至人类濒临灭亡。
　　（R）
　　而同时代另一部经典电影，1927年的《大都会》（豆瓣9。0分），则讲述了女机器人玛利亚充当了劳资纠纷催生物的故事：她用魅力诱惑工人们，挑起了人类大暴动。影片设想了机器人可能顶替人类身份的情况，充分展示了人类对机器人的恐惧。
　　不妨说，有关机器人或人工智能的影视作品自诞生之日起，就带着一种恐惧和警惕的情绪机器人会对其制造者叛变。
　　随着时间推移，这种担心不仅没有淡化，反而愈演愈烈。
　　在1968年库布里克导演的《2001：太空漫游》中，一台因逻辑陷入悖论而暴走的超级电脑，让人类有幸见识到了银幕上首个人工智能反派。
　　在那个经典的段落中，完全无配乐的情况下，电影呈现了一段平和却潜藏杀机的对话：
　　打开舱门，哈尔。
　　抱歉，大卫，恐怕我不能那么做。
　　哈尔，我不会再和你争了，开门！
　　大卫，这次对话已经没有任何意义。再见。
　　（HAL9000）
　　哈尔，即HAL9000，一台被设定为绝对不会出错的超级电脑。这台后来被美国电影学会评为影史百大反派第13位的计算机，由于内在指令产生冲突而杀人。在他如上文所述明确拒绝宇航员的指令之前，他已经用闪着红光的摄像头阅读了人们的唇语，决定抢先行动阻止计划失败，哪怕这意味着制造多起谋杀，比如用分离舱将宇航员撞向太空，让休眠仓程序出错杀死其中的科学家，并把主角关在舱外。
　　那个冰冷的红光摄像头，以及那句ImafraidI，也成了日后人类对AI、超级电脑或机器人的象征性恐惧符号。
　　比如2018年，当人类的第一位宇航员交互式移动伙伴（CrewInteractiveMobileCompanion）机器人采用IBMWatsonAI技术的CIMON被送上国际空间站的时候。各家媒体都对这个拥有一张拟人面孔，且能够倾听、理解人类语言并通过人类语言与人类交流的机器人展开了报道，航天界更是期待这个人类宇航员的助手，能够在太空中贡献自己的价值。
　　（CIMON）
　　然而，在介绍CIMON的视频下方评论区，最频繁出现，也是被赞次数最多的评论，却是这种风格的
　　CIMON，（CIMON，打开舱门）
　　ImafraidItdothat，D（抱歉，大卫，恐怕我不能那么做）
　　HALisaliveandlivingontheISS。（一台活生生的HAL已经住进了国际空间站）
　　这类反馈声音如此响亮，以至于被IBM官方用来解嘲。CIMON的个性设计师SophieRichterMendau和它的语言训练师NinaFischer让CIMON学会了一些科幻电影的经典台词，作为呈现给宇航员的彩蛋。
　　如果像《2001太空漫游》中宇航员在关键场景中对HAL所说的那样，要求CIMON打开辅助舱门，CIMON就会改变语调并开玩笑地回答说，抱歉，我打不开。
　　同样并不陌生的是，自波士顿动力机器人的视频在社交媒体疯传之后，那些能跑能空翻，甚至被人类测试员踢打之后还能正常执行任务的机器人，却反而激起了评论区的一片哀嚎
　　我看到了人类的末日
　　那一天，机器人想起祖先被人类统治的恐惧
　　审判到来之日，这一切都将是铁证
　　T800快来救我（电影《终结者》的机器人主角）
　　甚至，有恶搞团队专门制作了一支机器人终于反击了的视频，火爆全网。
　　（波士顿动力机器人的反击）
　　从1920到2019，人类对AI及机器人的恐惧和警惕，不仅一以贯之，甚至越来越焦虑霍金、马斯克和盖茨们，均在2015年公开提出了人工智能将为人类带来灭顶之灾的论调。如今关于AI的讨论更已经完全渗透了公众生活。
　　这是为什么？
　　从创造亚当到奴隶造反
　　或许是呼应《2001：太空漫游》，2001年时，斯皮尔伯格交出了巨作《人工智能》。在这部讨论人类与AI伦理情感问题的电影中，一开场就在不经意间甩出了劲爆观点：一位女士问AI设计师，人类是不是应该对那些被用来做情感陪伴的机器人负责任？而设计师是这样回复的
　　此话的确是入木三分，因为自古至今，人类一直有成为上帝的欲望即创造人类。
　　在古希腊神话中，赛浦路斯国王皮格马利翁是一位有名的雕塑家，当他用心雕塑了一座美少女雕像后，竟然爱上了这座雕像。其感情之真挚，最终打动了爱神阿芙洛狄忒，并赐予了雕像生命，让他们结为夫妻。心理学著名的皮格马利翁效应正源于此：期望和赞美能产生奇迹。
　　而在中国古代，同样有偃师献技的传说。神乎其技的偃师，用一个以各种材料打造而成的假人，竟达到了真人演出的效果，更是骗过了整个皇宫，最后令周穆王大为惊讶。
　　真实的历史中，同样发生过类似的事情。18世纪晚期时，奥地利的肯佩伦为了取悦贵族，做了一个看似土耳其人偶状的自动下棋装置。这个土耳其行棋傀儡可以和人类下棋，并且棋力不低，击败了同时代很多名人。更神奇的是，这个机器还能解数学题，以及用不同语言回答人类的问题。
　　据不完全统计，与这个土耳其行棋傀儡下过棋的名人，包括法国皇帝拿破仑波拿巴、美国开国元勋本杰明富兰克林、奥地利大公、俄罗斯皇帝、以及著名美国作家爱伦坡。
　　然而，这个机器其实完全是个骗局，真相是在机器中藏了一个下棋高手，再通过磁铁和杠杆等装置，假装成是人偶操作。这个骗局最终横行了大西洋两岸各国长达84年。
　　以上种种传说和骗局，究其根源，还是在情感和智力两个需求层面，人类总试图建造仿人的机器人，总期望像上帝一样，去创造与自己类似的智慧生命，并心意相通。
　　这种诱惑是如此的强大，以至于众多研究均表明：人类对机器人遭受的痛苦能够产生移情作用和同理心、机器人即便做得不好人类也更偏向于容忍和鼓励、人类更容易对AI吐露心声、甚至于当触摸逼真的机器人胴体时，人类会产生性冲动
　　然而吊诡之处在于，就如同人类敬畏上帝（或各种传说中的神）一样，人类同时却常常违反上帝的安排，偷偷做着上帝不允许的事情。如果将上帝换成国王、头领甚至老板的话，大家就更感同身受了。人类最清楚，上帝一旦创造出人类，那可就根本不可控了。
　　如此经历了数百至上万年的等级社会后，人类十分提防那些背叛和阳奉阴违，这种高度戒备与恐惧下层造反是一体两面的事情。更别提，在创造之初就被定义为奴隶和苦力的Robot。令人类恐惧的HAL9000，正是替人类说出了长久以来三缄其口的信仰问题：对造物主的质疑，人类是否可以反抗上帝。
　　于是，为了平息恐慌，阿西莫夫著名的机器人永不叛人三大定律登场。但细究不难发现，所谓三大定律，只是人类单方面的限令，希望以此让机器人顺理成章、理所当然地做人类的奴役。或者说，人类一方面希望拥有人工智能的机器人能够非常聪明，并且帮助、替代我们完成一系列我们自身难以完成的事情；另外一方面又希望这个机器人很老实，永远无条件忠诚于人类。
　　多么矛盾。
　　出路何在
　　回到文章的开头，人类热衷于讨论的AI伦理问题，其实说穿了都是人类自身的伦理问题人类在社交媒体上，把微软的聊天机器人训练成了满嘴脏话、种族歧视的小流氓；人类把仿真机器人开发成了泄欲工具；人类把智能音箱和随身智能设备（包括手机），改造成了广告线索收集渠道和广告播放渠道；人类把类似于阿尔法狗的自我学习能力，用于在网上对他人进行人肉搜索；更不要提很多程序已经被人类植入了自己的偏见这关AI什么事？
　　于是，一边是被设计出来做苦力，勤勤垦垦一心做好程序设定范围工作的AI，一边是满腹狐疑，且抓住机会就想利用AI满足自身私欲的人类。难怪见过越多AI和机器人，越觉得人类才是最可怜的那个。
　　解铃还需系铃人，解决人类对AI或机器人的恐惧与戒备，还要从人类下手。
　　首先，人类不应当完全只将AI或Robot当成苦工和奴隶，或者说是满足自己私欲的工具。为什么波士顿动力的机器人性能越强、越厉害，人们反而越害怕？因为这些机器人给人的感觉，就如同几百年前肌肉非常发达的黑奴，人们害怕这些黑奴哪天觉醒过来，自己是打不过的。
　　所以，采用IBMWatsonAI技术的CIMON就是一次很好的尝试。这个重约11磅、健身球大小的机器人，无论从外表、声音、功能上来说，都不会产生任何苦工感，更没有攻击性。
　　专为航天而生的CIMON不仅可以应对失重等更具挑战的太空环境和科学实验需求，它的诞生本就是用来和宇航员交朋友的。其定位不再只是工具或渠道，而是宇航员解决问题时的好搭档、倾诉心声的最佳对象。
　　而且技术人员还为CIMON精心挑选了符合ISTJ类型的性格特征（内向、感知、思考、判断），所以CIMON既不会像HAL9000那样冷酷无情，也不会像《星球大战》中的C3PO那样话痨烦人。当工作时认真乐于助人，当休息期间又是个友好的会话主义者CIMON甚至会判断什么时候自己该知趣地走开，给宇航员一个私人空间。
　　这或许没有传统印象中的AI那么强大劲爆，但却无疑是当下正确的尝试路径，只有从一开始就不被人类当做单纯的工具，才可能避免强大与恐惧的永恒拉扯。
　　此外，即使未来AI真有通过图灵验证，达到接近人类甚至超越人类认知思考表达水准的那天。人类也不应当只是猜忌恐惧，而是应当像历史上，人类社会一步步给女性、青年、穷人、异族们权利那样，认可机器人的权利，并与他们展开平等的人际交流。
　　不妨想想，如果起初根本就没打算把AI当成人看的话，那还像上帝一样创造亚当干什么呢？人类不就是因为感受到自己创造的物件，是类似人类而激动的吗？而且人类历史上无数的惨痛经验告诉我们，当人类互相不认为对方也是人类时，惨剧几乎一定会发生。因为两个正常的人类个体间，即便产生了分歧争执，也会首先考虑用谈判等机制解决。一上来就要求对方永远臣服，永远忠于自己，否则必须毁灭的话，那就等于把自己在AI心目中人类的定位删除了。
　　愿人类与AI永远共依共存。
　　来源：虎嗅APP