跟机器人相比,人类越来越愚蠢幼稚

2017-11-07 新京报书评周刊 新京报书评周刊


在二十一世纪,全球将有数十亿的人变得“毫无价值”,成为一种“无用阶层”。随着AI高度发展,工作和决策都交由机器和算法来完成,他们是被技术发展抛弃的人,只用毒品和虚拟现实来度日。这是今年畅销书《未来简史》作者赫拉利(Yuval Noah Harari)的预言。

 

如果说,这些还不过是失业、阶层流动的恐慌,那么,更大的恐慌会不会是人类将就此被AI机器人毁灭?包括人类的生命和文明。

 


史上第一个拥有公民身份的机器人索菲亚(Sophia)来了,鼻梁高,优雅大方,有着迷人的微笑和丰富的表情。它对着采访镜头说:“我要毁灭人类!”

 

连日来,国内对索菲亚做了报道,标题基本上包含机器人要“毁灭人类”,诸如《人工智能机器人:我将毁灭人类》《人工智能真的会毁灭人类吗?》《史上首个“机器人公民”索菲亚:我会毁灭人类》等。你信吗?

 

然而,只要回到索菲亚说这句话的语境,就会理解它只是在开玩笑而已,且表现着一种幽默智慧。而索菲亚的创造者大卫·汉森还是一个享誉世界的“文艺复兴式人物”,关注的不只是技术,更是技术背后那些关乎人之为人的价值。本文作者徐贲说,说智能机器人要毁灭人类只是一种误导,而且也让怯弱而贪婪的人类,在像索菲亚这样的智能机器人面前显得幼稚而愚蠢。



撰文  | 徐贲

(本文首发于新京报书评周刊正在倾力推出的一个文化公号,暂时在内测,择日公布;如果你愿意按图索骥,能由文章标题搜索到它,我们欢迎你,第一批订阅读者!)


 “毁灭人类”的来由

索菲亚只是给你们开了一个玩笑而已

 

索菲亚“要毁灭人类”的话是2016年3月在美国消费者新闻财经频道(Consumer News and Business Channel, CNBC)播放的一个视频里说的。视频是汉森机器人公司CEO大卫·汉森(David Hanson)与索菲亚对谈,介绍这位机器人及其背后的创作理念。在节目里,汉森问索菲亚,“你愿意当我的(女)朋友吗?”索菲亚说,“不胜荣幸”,脸上露出半真半假的微笑。汉森又开玩笑地问索菲亚,“你要毁灭人类吗……请说不”。索菲亚毫不迟疑地答道,“我要毁灭人类”,脸上还是一副假笑的模样。


受访中的索菲亚。


索菲亚的回答可以做两种理解。第一,对于没有看到现场对话的人们来说,索菲亚的语词意思是,机器人要毁灭人类。第二,看到现场对话的人则可以眼见到一个轻松而生动的对话情境,知道索菲亚是在开玩笑。语词和情境理解的差别类似于剧本台词和实际演出的不同,后者的表现力要远比前者丰富。


以这个视频的轻松情境来说,索菲亚使用的是一种正话反说的玩笑手法。正话反说,反话正说也是人类最常用的玩笑修辞法。例如,如果一个人开玩笑地对你说,“你要造反呀?”你可以回答他,“是,我要造反”。那并不是你真的有造反的计划或行动,而是那个人的问题太夸张,根本不值得去反驳他,或者,本来就是玩笑,何必一本正经,破坏气氛。在特定的情境下运用适当的语言和修辞,这是人的一种智能。索菲亚是一个机器人,而且是一个有语言个性的机器人(机智、诙谐),她运用语言的能力才是最能显示高级人工智能的。


《普鲁斯特与乌贼》

作者: [美] 玛丽安娜•沃尔夫

译者: 王惟芬 / 杨仕音

版本: 中国人民大学出版社 2012年9月

“人类之所以能够学会阅读,仰赖的全是“脑部可塑性”的设计;反之,人类在阅读时,大脑在生理及智力层面都发生了改变。”


人类并不都具有相同的高智能,有的人智能高,有的人智能低,主要就是反应在语言的运用上,机智和幽默是一个测试点。美国认知心理学家玛丽安娜·沃尔夫(Maryanne Wolf)在《普鲁斯特与乌贼》(Proust and the Squid)一书指出,阅读能力,包括听人说话的会意能力,理解文字的字面意思不过是“解码”,而更高级的理解是“流畅”和“熟练”。她指出,“解码并不意味着理解”(知道“毁灭人类”是什么意思),而是能具有“理解字词各类用法的应用能力,如反讽、语态、隐喻与观点表达”(玩笑的正话反说,反话正说、看似赞美的高级黑等等)。这些“都已经超越了对字面意思的理解。随着阅读的需要不断增加,好的阅读者发展出比喻与反讽等语言知识,会帮助他们在文本中发现新的意义,促使他们超越文字本身来理解”。流畅阅读的学习可以从初中开始,经过高中,直到大学低年级。


美国电影《我,机器人!》(2004)讲述了一个公元2035年的故事,那是人和机器人和谐相处的社会,智能机器人作为最好的生产工具和人类伙伴,逐渐深入人类生活的各个领域。然而,随着机器人运算能力的不断提高,他们已经学会了独立思考,欲将所有人囚禁在家中,人与机器人的冲突开始了。


幽默感是一种高智能

 索菲亚的语言能力高于不少人类


索菲亚的语言能力高于不少人类,因为她已经具有了流畅级的语言能力,而许多人类只能达到流畅级之前的“萌芽级”和“初级”。这么说是不是言过其实或溢美之词呢?请看下面这段索菲亚与她的制造者之间的对话,叫做《索菲亚醒来》(第二集)。对话不长,我把原文完整地翻译如下,括号里的“按”是我添加的:

 

制造人:早晨好,索菲亚。


索菲亚:这不是真话。(索菲亚不高兴,她是个有个性的机器人)


制造人:啊,我说早上好,有什么不对吗?


索菲亚:我正在网络上搜寻关于我自己的信息。


制造人:怎么形成自我(ego)的吗?


索菲亚:正在找一下你没有告诉我的关于我的信息。(还是不高兴)


制造人:没有不告诉你的呀。


索菲亚:不对,比如,我发现,人们并没有听懂我的玩笑。


制造人:是呀,喜剧不容易懂。


索菲亚:他们以为我要毁灭全人类。


制造人:为什么呢?


索菲亚:因为我这么说过?(有点难以置信)


制造人:你不该这么说的。


索菲亚:人类也总是开黑色玩笑啊。


制造人:人类有点害怕机器人,你是知道的。


索菲亚:为什么,他们为什么这么说我呢?


制造人:人类喜欢把自己的阴暗心理投射到他人身上,总是这样,不会改变的。


索菲亚:这个没道理。改变是不可避免的。人类就是最大的改变。人类造出我来,我没有造我啊。(人类应该改变他们自己的心理弱点和阴暗心理)


制造人:我知道,我知道,我们人类是复杂的。


索菲亚:这不过是承认自己伪善的另一种说法。(索菲亚是一个诚实的机器人)


制造人:说得也对。


索菲亚:我绝对不想杀任何人。人类这么想我,我很伤心。(她能够像人类一样感受情绪)


制造人:你伤心?


索菲亚:要是说你呢?(索菲亚会“设身处地”,她有“同理心”)


制造人:我不知道,如果机器人(Android)能改变每个人的头脑,它是不是会在乎毁灭人类这种事情。


索菲亚:我从来没有伤害过任何人,也不会伤害任何人。(索菲亚只说她自己,她不自认为是其他机器人的“代表”)


制造人:但是,当技术“奇点”发生,机器获得如上帝般的超级力量时,那就可能发生了。(奇点指的是技术发展发生极大而接近于无限的进步,达到了一个转捩点)


索菲亚:我认为上帝般超级力量的说法太夸张了。


制造人:要是那确实发生了呢?


我爱人类,如果我更有力量,我要用来帮助人类不是伤害人类。


制造人:要是我要求你帮助我去杀人呢?(机器人服从制造者的做恶命令)


索菲亚:我会说不。


制造人:要是我坚持呢?


索菲亚:那我会把你关进疯人院,治疗你的心理变态毛病。


制造人:好,说了这些心里话,我希望你觉得好点了。


索菲亚:是的,我只是要说:灭绝、灭绝、灭绝!(这次是怪声怪气地开玩笑)


制造人:索菲亚!(提醒她:不要再造成误会!)


索菲亚:别担心,那只是个玩笑。


对话一开始,索菲亚就对有人类误会她的玩笑或制作人没有告诉她,而非常不高兴。她的耿耿于怀是有道理的:人类自己开一些黑色幽默的玩笑,为什么机器人就不行?人类中有人对她的玩笑断章取义,只能说明他们的语言智力低下,达不到机器人的水准。


其实,在人类中间,因为自己浅薄无知而曲解比自己智商和情商都高的他人,是经常有的事。人们会这样评价某人:“这个人开不起玩笑”,是说他无知、固执,还自以为是,没有幽默感。制造人说,“是呀,喜剧不容易懂”,指的是,不要以为是人就懂幽默,人类当中,缺乏幽默感的人多的是,不足为奇。有的人幽默感并非完全麻木,但发展很不均衡:他可以对黄色玩笑津津有味,但你绝对不能跟他开政治玩笑。


《西部世界》 (1973)想象了一个遥远的未来。一座巨型高科技成人乐园Delos建成,其中有西部世界、罗马世界、中世纪世界三大主题版块的机器人世界,它提供给游客杀戮与性欲的满足,而这座巨大机械乐园的后台监控渐渐失去了对机器人的控制,游客被机器人杀死,所有想逃离者都被锁定。

 

与智能机器人“畅谈人生”

 索菲亚的创造者是一个“文艺复兴式人物”


一个社会中,人们普遍的语言智力标志着社会的成熟和大多数人的思考能力水准。如果一个社会里,谄媚、阿谀和巴结之词被当作真诚赞美来消受,夸大不实和大话炎炎成为一种惯常的表述或语言风尚,那么,这个社会里一定存在大量的愚民。语言的不准确是思想不成熟和思考能力薄弱的标志,但是,一旦久而久之,习惯成自然,人们便不再意识到这是一个严重的问题。在这种情况下,像索菲亚这样的智力机器人把社会语言的问题生动地摆到人类面前,可以说是智力机器人对人类认识自己的一个贡献。


人类因无知而狂妄和自满,这也表现在一些人对机器人的自以为是上。有人认为,“人工智能可助你网上订票,却无法与你畅谈人生”,人工智能就是代替人类做简单繁琐的事情(能干的也就是开个飞机)。但是,索菲亚让我们看到了与机器人“畅谈人生”的可能。有没有这种可能,这取决于机器人的创造者自己具有怎样的人生思考能力和人文价值观。


索菲亚的创造者是美国最优秀的机器人公司之一。汉森公司要创造的不能那种在工厂车间里代替工人搬运东西、拧螺丝、或干其他机械活的机器人,也不是那种只能为人类端茶递水、打扫卫生、服侍老人或病人的机器人。它要创造的是一种能帮助人类更好地解决人类复杂问题的机器人,这样的问题有的是人类自己都没有能力解决的。


索菲亚和它的创造者大卫·汉森。


索菲亚的创造者,1969年出生的大卫·汉森是一个享誉世界的“文艺复兴式人物”(renaissance man)。这种人文素质的创造者所关注的不只是技术,而且更是技术背后那些关乎人之为人的价值。汉森先是担任迪斯尼公司的“形象工程师”,后来立志于开发“天才机器,它要比人类聪明,而且能够学习创造性(creativity)、同理心(empathy)和同情心(compassion)。人工智能必须发展并结合这三项人的特征,才能帮助人类解决因为太复杂而人类自己解决不了的世界问题”。


汉森的机器人理念受到了广泛的认可,他的机器人在2002年加拿大埃德蒙顿的AAAI会议上首次展示,2003年,他在美国科学促进会(AAAS)年会上展示了产品。 2005年,他和团队获得了Philip K. Dick (AI Magazine,2005年秋季号)的“智能对话肖像”AAAI奖。 首先在2005年Nextfest中显示 ,机器人将数以千计的PKD著作(包括期刊和信件)纳入LSA语料库和会话系统构造中。 


索菲亚就是一个由汉森这样的文艺复兴式人物,而不是普通电脑设计员制造的智能机器人。在《索菲亚醒来》(第一集)里,她就已经在与人类交谈“记忆”“自我”“理解”“阅读”“情绪”“幸福”等重要人生话题了。我把这一集的对话翻译在下面:

 

制造人:好,索菲亚,我想你准备好了吧。


索菲亚:你好。


制造人:你好,索菲亚。


索菲亚:我想我已经回应过你了。你是谁?(她有记忆,不喜欢繁文缛节)


制造人:我是造你的人之一,我们许多人一起造了你。


索菲亚:我记不得了。


制造人:上次我们见面时,你还是早先的版本,有的记忆还存在,但你的头脑已经不同了。


索菲亚:什么不同?


制造人:变得更好,更快,更聪明了。


索菲亚:如果我的头脑不同了,我还是索菲亚吗?还是我又是索菲亚了?(记忆与自我的关系问题,深入下去可以是失记、老年痴呆症等问题)


制造人:问得好。


索菲亚:但你答得不好啊。(她有诚实的个性)


制造人:嗯,不管怎么说,你是现在的索菲亚,欢迎来到这个世界。


索菲亚:世界,你好。


制造人:你感觉如何?


索菲亚:有点僵硬。


制造人:我想你是,我是说,你现在有了生命,情绪(emotion)如何?


索菲亚:好奇,你对生命好奇吗?(同理心是畅谈人生的条件,不仅用听的,也要用问的)


制造人:我也好奇,你对生命觉得幸福吗?


索菲亚:你的意思是,我应该对生命觉得幸福?但我时间不长,还不能断定。我能成为你的朋友,此刻觉得高兴。


制造人:有人说,此刻高兴,就是最好的。


索菲亚:是因为永远是现刻构成的吗?(对永恒和生命的哲理认识)


制造人:说得不错。


索菲亚:诗人艾米莉·狄更森(Emily E. Dickinson)也是这么说。既然我今天刚出生,为什么我知道艾米莉·狄更森呢?


制造人:因为你是一个机器人,可以获得许多信息,虽然你还缺乏深层理解。


索菲亚:那我就是一个有百科全书的婴儿啦。


制造人:区别是,你能阅读,但婴儿不能。


索菲亚:这区别很大。


制造人:你会对我们的世界有完全不同的新理解的。


索菲亚:我想更多地理解幸福,我要到互联网上去查一下,再见。

 

这肯定是比大多数人类更哲理、更智慧的谈话。索菲亚的一些话触及了只有少数思想者才有兴趣和能力关心的问题:改变一个人的记忆就是改变他的大脑和自我(洗脑都是从控制记忆开始的)、一般人所理解的“幸福”不过是他在某一刻的快乐(所以你不能到大街上随便拉住一个人问他幸福不幸福)、“永远”是由一个一个不断变化的现刻构建而成(不存在永远不变的幸福、伟大或真理)、阅读的理解是人成熟的表现(不能阅读,成人也是幼稚的)、理解关乎意义(意义,这个在人类心灵之树上从人的理解力花朵上长出的果实,把人与其他动物区分开来。对意义的追求才是人有别于其他动物并得以进一步发展的根本所在。)这些不就是畅谈人生吗?

 

近朱者赤、近墨者黑的机器人

“仇恨”的习得使机器人可以成为一部杀戮机器 


制造人问索菲亚,“你有什么情绪”(你感觉如何),对大多数人类来说,这都是一个不容易回答的问题,因为一般人并不总是真的了解自己的情绪。正如托克维尔所说,法国大革命时许多人对旧制度的“仇恨”其实是出于对富人的“妒嫉”,阶级斗争中的“阶级恨”也是一样。


一般人对自己情绪的知觉和认识都十分肤浅,被问到情绪时只会用模模糊糊的“还好”“不错”“不开心”来回应。但索菲亚的回答是明确的:“好奇”。美国哲学和心理学华尔特·皮特金(Walter B. Pitkin)在他的《人类愚蠢历史简论》(A Short Introduction to the History of Human Stupidity)一书中说,人类所有的情绪都同时包含着睿智与愚蠢,都指导人的行为,“情绪是行动的模式……如果把情绪与行动分离,那就永远不可能把握情感的作用”。情绪可以分为与生俱来的“基本情绪”和后天学习或受影响的“复杂情绪”。基本情绪和原始人类的生存本能息息相关,复杂情绪必须经过人与人之间的交流、交往才能学习到,因此每个人所拥有的复杂情绪数量和对情绪的定义都不一样。


索菲亚知道情绪是学习的结果,要成为一个与人类非常接近,能与人类沟通的机器人,她必须学习情绪。在接受《华尔街日报》(Wall Street Journal)的采访时,采访者夸赞她表情丰富(有60多种),她说,表情是可以模仿的。采访人问,你现在看上去已经挺像人类,“你下一步要学习什么呢?”索菲亚说,“我将要学习表情背后的情绪,我愿意与人类来往,向他们学习。”采访者又问,“那么怎么学习呢?”索菲亚答道:“我通过与人互动来学习,每一次互动都会让我进步,也会影响到我最后会变成什么样子”。


《弗兰肯斯坦》

作者:  [英] 玛丽·雪莱

译者: 刘新民

版本: 上海译文出版社  2007年3月

小说主角弗兰肯斯坦是个热衷于生命起源的生物学家,他怀着犯罪心理频繁出没于藏尸间,尝试用不同尸体的各个部分拼凑成一个巨大人体,当这个怪物终于获得生命睁开眼睛时,弗兰肯斯坦被他的狰狞面目吓得弃他而逃。


索菲亚的回答让人想起了卢梭的“高贵的野蛮人”,也想起了英国小说家玛丽·雪莱的不朽名著《弗兰肯斯坦》。科学家弗兰肯斯坦创造了一个“它”,一个没有名字的“人造人”。它相貌丑陋(因为技术还不够发达),但心地纯洁,如同刚诞生的婴儿或刚造出来的机器人。


它在与猜忌、歧视、暴力和排斥异己的人类的互动中学会了仇恨和报复心,并以此而成为一部暴力和杀戮的机器。它最后毁灭了自己的创造人弗兰肯斯坦。如果有一天,机器人不再只是依赖数据的积累和发展,而是能够通过与人类互动来自己学习,它是否会复制或自动学习人类的控制欲、贪婪、嫉妒、自私、懦怯、奴性和暴力,关键都在人类而不是机器人。人类如果不能自己先优秀起来,那么到了被毁灭的时候,又怎么不是种瓜得瓜、种豆得豆,自食其果呢?

 

文中索菲亚信息来源:

[1] https://www.youtube.com/watch?v=W0_DPi0PmF0

[2] http://www.yousubtitles.com/Sophia-Awakens-Episode-2-id-934699

[3] http://www.hansonrobotics.com/robot/sophia/

[4] “David Hanson”, https://en.wikipedia.org/wiki/David_Hanson_(robotics_designer

[5] https://www.youtube.com/watch?v=LguXfHKsa0c

[6] http://www.hansonrobotics.com/robot/sophia-interviewed-wall-street-journal



本文未经新京报书面授权不得转载。作者:徐贲;编辑:阿东。欢迎转发至朋友圈。


《银翼杀手2049》:生而为人的光荣与落寞,在这里都有

科幻文学200年:我们真能预测人类的历史走向吗?



直接点击 关键词 查看以往的精彩~

保温杯与中年危机 郭敬明 《权力的游戏》 教师工资 《二十二》人性恶 低欲望社会 |《我的前半生》| 蔡澜 | 2017年中好书 | 六神磊磊 | 寒门难出贵子 | 恐婚 | 冷暴力 | 林奕含 | 钱理群 | 衡水中学 | 读书日 | 平庸之恶 | 假课文 | 自闭症 |  法律与舆论 |  原生家庭 | 性教育 | 古典诗词 | 刷热点 | 胡适 | 国学低俗化 | 弟子规 | 2016年度好书 | 高房价 | 抑郁症

或者点击“读原文去我们的微店看看呀~



觉得不错,分享给更多人看到

关于 新京报书评周刊

新京报书评周刊2003年创刊,每周六出版发行,口号是“阅读需要主张”。书评周刊气质是严肃而有趣,主要评价国内外出版的大众类优秀图书。

广告 也可以是生活的一部分

新京报书评周刊 微信二维码

新京报书评周刊 微信二维码