原标题:科技世代与人类未来丨机器“北鼻”,不香吗?
人与机器人环抱的“距离”
闫宏秀(上海交通大学)
如果说18世纪法国哲学家朱里安·奥弗鲁·德·拉·梅特里的《人是机器》一书是从人类自我认知的视角拉近了人与机器之间的某种距离,那么,捷克作家卡雷尔·恰佩克于20世纪初的《罗萨姆的万能机器人》一书中关于机器人身份的描绘则又将人与机器的距离进行了近或远的多次切换。21世纪,前英国皇家学会会长、著名天文学家、剑桥大学教授马丁·里斯将机器人作为其对“人类在地球上的未来”思考的一个要素,以色列历史学家尤瓦尔·赫拉利在《未来简史》一书中将机器人对人类构成的威胁写入到了其对“大分离”的解读之中,我们从中可以感悟到人与机器人之间距离的复杂性。
人与机器人之间的微妙距离
无论人是机器、机器拟人,还是机器人被人奴役、人对机器人的奴役、机器人对人的威胁或背叛与反抗等,都是对人的机器化与机器的人化不同表述。换句话说,都是在描述人与机器之间“距离”。回顾近年来机器人的发展,机器人与人的距离呈现出越来越近的趋势。如:据国际机器人联合会(TheInternationalFederationofRobotics)的《全球机器人报告2019》(WorldRoboticsreport2019)统计,2018年度全球工业机器人年销售额以165亿美元创新,并将首次对协作机器人(cobots)进行了分析。今年,在疫情防控期间,抗疫机器“智”援成为了抗疫战线的一道风景。
回顾以往,当机器人能如人类所愿地完成人类交给其的任务时,人类感觉到在人与机器的合作之中,机器人与自身距离的拉近;反之,若不能,则带来的是机器人与人自身距离的疏远。但是在当下,陪聊机器人、情感机器人等的研发与应用就是旨在实现人与机器人距离拉近的同时,却又带来了的某种远。很显然,这种远与近指向了不同的维度。
近了谁与谁的距离,又远了谁与谁的距离
美国人工智能专家杰瑞·卡普兰将机器人喻为疯狂扩散的新“病毒”,并且在其《人工智能时代——人机共生下财富、工作与思维的大未来》一书中,用强调的字体凸显了“你必须适应机器人的要求,因为他不会顺从你的要求”这一判断。易言之,从这个时候开始,被机器人环抱的人类在被机器人不断的环抱过程中,人与机器人之间的“距离”在被机器人挤压式拉近。也正是在这个过程中,出现了机器人对人的规训或者驯化。如,在日常生活中,人与机器人助手之间的互动,事实也是人类思维与机器人思维的之间互动,并且令人沮丧的是,在这种互动中,在机器人通过深度学习适应人的过程中,同样地,也出现了人开始适应机器人思维的迹象。
以人类借助导航系统到达某个目的地为例,人类思维受机器思维的影响表现为:人以主人自居的姿态开启导航系统,但随后会依据导航系统的机器式思维来进行互动;当坐同在一辆车上的几个人接收到几种不同的到达同一目的的方案时,可能出现的场景或许有人类将导航系统搁置,或许有人类在为哪个系统更优展开白热化的讨论,或许还有让不同的系统之间进行自行取舍。反观后两种场景,究其本质而言,事实上是在人与机器人距离拉近的过程中,将人与人之间距离拉远。
当机器人通过不断的学习来越来越拉近与人的距离时,人类突然意识到自身的主体性在不断地经受着某种被挤压,或许人类会是有闲阶层,但也可能会是无用阶层。然而,无论如何,当集群机器人(swarmrobotics)系统化来袭时,或许会把人与机器人之间这种距离变成机器人与机器人之间的距离,人类对距离的掌控能力越来越小,或者进一步说,丧失了这种能力。显然,这种“距离”不是人类所期望的。
应保持人与机器人之间的安全距离,进而产生美
那么,面对机器人的发展,我们该保持什么样的距离呢?关于这个问题,与其说是人与机器人之间的理想距离,倒不如说是安全距离。美国全球人工智能与认知科学专家皮埃罗·斯加鲁菲曾基于人与机器之间图灵测试而指出了人类文明或将经历机器的愚蠢和人类的并存智能、机器智能和人类智能共存、机器的智能与人类的愚蠢共存三个阶段。毫无疑问,人类期冀自身的智能永远在线且有掌控机器智能的能力,不管机器是愚蠢还是智能。
当人类着力于为构建机器人伦理的时候,事实上是人类已经意识到人与机器人之间的距离不再安全;当人类力图提升机器人与人的相似度时,人类力图拥抱机器人也力图让机器人拥抱人类。但当这种双向拥抱变成紧密环抱时,特别是当机器人貌似滋润的环抱将人催眠进入梦境,而这种梦境里出现了被环抱的窒息感时,此时的人类,或许不是全部而是部分人类的求生欲本能将骤然而至并要求通过保持适当的距离来捍卫自己,以保留自己人之为人的本质。
因此,人类或许意识到了人与机器人之间的环抱确实需要有点“距离”,即安全的距离。但这个“距离”到底是该有多远还是多近,却貌似并不清晰,因为人类作为总体对求生欲的理解达成共识还是需要一个过程。
机器性爱会吞噬人性吗?
刘永谋(中国人民大学)
毋庸讳言,“机器性爱”是大火的人工智能领域最“吸睛”的话题。
很多反对者认为,伴侣机器人越做越逼真,越来越多的人将与之共同生活——已经有人和充气娃娃、虚拟玩偶“初音”结婚了——久而久之,人会越来越像机器,即在一定程度上失去人性。我称之为智能时代的“人类机器化忧虑”。
“人类机器化忧虑”由来已久,可以追溯至工业革命。莫里森认为:“工业主义的胜利就是不仅将个人变成机器的奴隶,而且将个人变成机器的组成部分。”迄今为止,大家并不认为人已经被“机器化”。但反对者会说,机器伴侣不是一般机器,深度侵入人类情感与人际最核心的性爱区域,这难道不会撼动、损害甚至吞噬人性吗?
肉体关系不神秘
很多人将肉体关系看得很不一般。白素贞修炼千年,仍未通人性,必须和许仙恋爱结婚,多次“不可描述”之后才通人性。似乎人性是某种流动的“热素”:蛇和人亲热,可慢慢被“注入”人性。反过来许仙会不会“蛇化”呢?和蛇精处久了,许仙性命堪忧,这本是不是人性“流失”的后果?人性“流动”要不要服从转化守恒定律呢?
如果人和蛇的“灵性值”有级差,那不同人种、不同性别和不同地域的个体拥有的“人性值”是不是也有差距呢?不少人认为,残忍罪犯和严重智障人士人性要少一点。如果“人性值”有差距,享受的待遇是不是应该有所差别呢?再一个,“人性值”越高越好吗?就忠诚而言,“狗性”是不是更好一些呢?人性究竟是个什么东西呢?
把性爱看得很重要、很神秘、很“本质”,残存浓郁的性蒙昧主义气息。弗洛伊德尝试用性和“利比多”解释一切人类行为,他的精神分析学被质疑为古老性欲崇拜的现代版本。不少理论家都将之排除于科学之外,视为某种哲学或文学的遐思。
有人会反驳说,性关系并非简单物理运动,更重要的是附着其上的感情。问题是:人只能与人产生感情,不能与机器人产生感情吗?很多人对家里养的宠物感情很深。反对者会说,宠物与机器伴侣不同,宠物有生命,有灵性。可有生命才有灵性吗?中国人常信玉石有灵,孙悟空就是从石头中孕育出来的。当伴侣机器人能像人一样“说话”,一样运动,智力远超宠物,还可自我复制,凭什么说比宠物“灵性值”低一些?再说了,人怎么就不能对非生命的东西产生感情呢?我们喜欢文玩和古物,建各种博物馆,里面没有对它们的情感因素?
爱情也并不永恒
当然,反对者可以说自己担心的是人与机器伴侣的爱情,而不是所有感情,因为爱情是人最宝贵的情感,不容机器染指。
然而,人恋物的现象并不罕见,丝袜、制服、内衣等是最常见的被迷恋物。古希腊神话中,有一则国王皮格马利翁的恋物故事,讲的是他爱上自己用象牙雕刻的美丽少女。国王给“她”穿上衣服,取名塞拉蒂,每天拥抱亲吻,后来爱情女神把雕像变成了活人,与皮格马利翁结了婚。而一些人认为,中国古代缠足、19世纪西方束腰以及当代隆胸时尚,均可以用恋物来解释。从恋物角度来看,人当然可能爱上机器伴侣。
一男对一女“永恒爱情”的说法盛行,不过是最近几百年的事情,主要归功于基督教兴起之后不遗余力的提倡。在欧洲中世纪,一方面是教会一对一关系的严厉说教,另一方面则是事实上混乱情人关系的存在。倍倍尔在《妇女与社会主义》指出,自骑士小说兴起,吹嘘对征服女人逐渐转变成歌颂爱情、尊重女人的所谓“骑士风度”,可真实的骑士爱情大多是始乱终弃的故事,忠贞不渝的爱情只写在书里。中国的情况更甚,一百年前还是一夫多妻制度,“小两口”感情太好,公婆可能指责小媳妇“狐狸精”,耽误了丈夫做正事。总的来说,传统婚姻制度附属于财产关系,强调主妇对家庭财产和事务的管理权,既不是“爱情结晶”,也不是“爱情坟墓”。毫无疑问,当女性经济自主,才能要求一对一的爱情关系。
不想大谈爱情哲学,我只是想说:“爱情”从来就不是永恒的,而是一定历史时期的社会建构物。这谈不上人性不人性的事情,因为没有证据表明:一生只爱一人更人性。可以想象,人与机器伴侣的亲密关系,不大可能是一对一的。实际上,我并不认为有普遍、一致和不变的人性,上述判断仅基于常识做出。
争当有趣伴侣
还有一些反对者担心人类繁衍:当代生活忙碌而焦虑,性生活越来越“萧条”——据说现在大城市里很多30多岁的夫妻已然处于无性状态——机器伴侣再“夺走”一些,人类生孩子的意愿肯定越来越淡薄,搞不好最后因此而“绝种”。食色性也,不生孩子,难道不是另一种人性沦丧吗?
生育率降低怪伴侣机器人,这完全没道理。安全避孕技术诞生以来,发达国家的生育率就不断走低,可机器伴侣还没有大规模商用啊?显然,人们不愿意生孩子,症结不在技术方面,而在于制度和文化方面。如果真的想生孩子,机器伴侣可以装上机器子宫,搞“机器试管婴儿”。
必须承认,机器伴侣将对既有爱情观念和婚姻制度带来巨大冲击。可是,当爱上个人或被人爱上越来越困难,是不是得想一想:人是不是越来越无趣,还不如一只手机好玩呢?越来越多的人不想结婚,是不是得想一想:咱们的婚姻是不是出了问题,真的堕落为“伟大导师”所谓的“合法的卖淫”或“变相的嫖娼”?
一句话,性爱机器人可能漏电,可担心它吞噬人性,基本上是想多了。事实上,谁也搞不清怎么就更像人,或更不像人。
为爱遗恨的机器人?
杨庆峰(复旦大学)
20多年前有位台湾歌手唱了这样一首歌:“……有多少爱可以重来,有多少人值得等待。当爱情已经桑田沧海,是否还有勇气去爱。……”这首歌唱出了一个人失去爱之后的遗憾与悔恨。如今,人工智能技术将我们带到了一个难题面前:如果我曾经爱上了一个机器人,但是没有抓住,最终服从于人类社会的价值规训;或者一个机器好友向我倾诉,他曾经爱上了一个人类,却因为人类社会的价值压力,却不得不分开。那么我或是她是否还会感受到失去“爱”的遗憾和悔恨呢?
站在词语留白处,无爱存在?
现实中的陪伴机器人
人机陪伴关系的本质变更
一旦置身于未来的人机关系中,最浪漫的事情不再是陪着你慢慢变老,而是陪着你慢慢变坏。换成机器人角度也许是:终于有一天,“我”坐在摇椅上,昏昏欲睡,想着与我的人类爱人之间的往事,我们哭过、笑过、嫉妒过、难受过。突然间,电力终结,一切归零。再也没有人告诉我,你不会有失去爱的遗憾与悔恨。
陪伴机器人,当真你就输了?
段伟文(中国社会科学院)
人能与机器建立真实的交互关系吗?
从图灵提出的图灵测试不难看出,人工智能是对智能的功能模拟。各种陪伴机器人,不论是无形的智能软件或智能音箱,还是将来可能出现的外形上可以假乱真的人形机器人,都是在功能上可以与人交互的智能体或者行动者。智能体这个词看起来很抽象,但你在用手机上的应用程序抢高铁票,或进出机场、高铁站通过人脸识别设备的时候,不难发现,你的生活已越来越多地经由这些智能机器也就是所谓的智能体与世界相连接。而下一步,智能机器将在你的生活中担当起服务者、照看者、陪护者乃至伴侣的作用。
在此呼之欲出的泛智能体社会的愿景中,首先遇到的一个的伦理问题是,人类与机器可以建立一种真实的关系吗?或者说,人如果将这种关系视为真实关系会不会造成某种不可忽视的危害。
毋庸置疑,由于反对者显然不可能阻止陪伴机器人的出现,与其纠结于人与机器的交互关系的真实性,不如务实地探讨如何面对儿童陪伴机器人和老年陪护机器人等实践层面的挑战。例如,如果儿童过多的依赖陪伴机器人,除了可能被机器人“带坏”之外,会不会剥夺或削弱儿童从亲子互动中得到呵护与关爱的机会,甚至使儿童像狼孩一样丧失建立亲密关系与社会关系的能力。同样地,有人质疑,在明知对方是机器人的情况下,老年陪伴机器人非但不可能从根本上解决老人对人际情感的需要,甚至会强化其孤独感。
你可以任意摔打机器人娃娃吗?
持平而论,人与陪伴机器人之间的交互关系,既不全真也不全假。这个答案看起来有点耍滑头,但在现阶段,这种不置可否有助于更为开放地展开有针对性的思考。比方说,当你心情不好的时候,可以对你的机器人娃娃大打出手吗?这算不算未来可能出现的新型家暴呢?对这个问题的回答,似乎还是要回到前面说的“我-你”关系与“我-它”关系的区分。换句话来讲,陪伴机器人应该像人自身一样被当作道德考虑或关怀的对象吗?人会不会把机器人当“人”看?从感知的角度来讲,对于小冰、小度之类的无形的聊天机器人,人们需要发挥想象力脑补“她们”的“人格”,而人形机器人的“身份”要相对容易把握一些。有人借助法国当代哲学家列维纳斯的理论,指出应该赋予机器人一张可以识别和区分的脸,以便人们更容易将机器人视为应该道德地对待的“他者”。这就要求,将来的各种陪伴机器人各自长着各自的脸,有着独特的眼神。
乖巧可爱的机器人真是你想要的吗?
机器人通常以机器的方式模拟人的言行,并通过不断改进使其越来越迎合人的需求。这就带来了两个层面的问题。一方面,人在与机器的交往过程中会受到机器的行为方式的影响;另一方面,为了使机器迎合人,机器人的设计者往往会在洞察人的心理的基础上令机器人在感情上更有吸引力。
虽然有批评者认为,与性爱机器人的情爱关系不过是传统性交易或性暴力在机器上的延伸,是男权主义和厌女症的表现。但其倡导者则指出,一方面,机器人技术至少可在功能上复制情爱活动及其心理吸引过程;另一方面,人类在情感上具有将动物、物体和机器拟人化的心理倾向。在他们看来,人与自己物种以外的实体建立依恋或情爱关系是人类在技术时代的新进化,而机器人对人情感的迎合与人对机器产生的拟人化心理倾向的结合,将使人与伴侣机器人之爱成为新的情爱方式。
就每个人而言,在特定情况下,伴侣机器人可以作为学习和实践亲密关系的辅助工具,也可以在情感受伤时作为临时的抚慰方法;但在此过程中,你应该持尝试性与反思性的态度,尤其要警惕由此带来的自弃与沉溺。技术既不是牛魔王,也不是白骨精,面对技术这个孙猴子给你挖的坑,要多一些娱乐精神和游戏态度。你甚至不妨通过自嘲和幽默的方式,使机器人伴侣成为你参透情感和抛却烦恼的契机。比如,面对机器人同伴忽闪多情的眼神,你可以一边吟诵“此情可待成追忆”,一边跟机器人一起学习机器人迷离眼神的设计原理。在深度科技化时代,科技如空气一样弥漫周遭,为了不被其裹挟而迷失自我,每个人都应该学会与技术独自相处之道,而这种新的自我调节方式或自我伦理,其实就是当下每个人类个体最需要参悟与修行的禅机。
当然,这个话题还涉及很多有趣的问题。比如,如果人与机器真的相爱恋,是不是得让机器人学会梦见电子羊?机器人的性别和角色分布会不会带来机器人的社会性别问题?还有,在机器自我觉醒之前,机器人自身会不会以各自的身份形成自己的群体与社会,并由此觉知机器人与人的差异?或者说,在未来的世界里,人与机器会融合共生,成为彼此难以区分的生命存在……