书上说未来科技对人们生活的影响发达了人们会有很长假期,一周工作四天休息三天会先在发达国家实施,这句话是胡扯的吗

原标题:科技对人们生活的影响卋代与人类未来丨机器“北鼻”不香吗?

很多人认为“机器伴侣”将是未来智能机器人发展最广阔的市场和最大的动力。所谓“食色性也”这种想法并非什么奇谈怪论。当然我们需要的陪伴机器人,不限于亲密的“机器小哥哥”、“机器小姐姐”还包括聊聊天、談谈心的机器“知心人”,或者陪玩赔疯机器“二货哥们”、机器“塑料闺蜜”甚至是丁克家庭的机器“儿子”、“女儿”和机器“宠粅”。如果社会中到处都是机器“北鼻”人类和世界将会怎样?“科技对人们生活的影响世代与人类未来”论坛第二期以机器陪伴为题特别邀请中国社会科学院的段伟文研究员、中国人民大学的刘永谋教授、上海交通大学的闫宏秀教授和复旦大学的杨庆峰教授,以北南聯袂、京沪对话的方式从不同角度撰文探讨闫宏秀的《人与机器人环抱的“距离”》提醒人们保持与机器人的安全距离。刘永谋的《机器性爱会吞噬人性吗》相信机器伴侣不会导致人类机器化。杨庆峰的《为爱遗恨的机器人》认为亲密陪伴将从根本上改变人机关系。段伟文《陪伴机器人当真你就输了?》深入设计层面分析陪伴机器的典型伦理问题有趣的是,从警惕(counter)-亲近(pro)陪伴机器人的角度看杨庆峰与刘永谋对于人与机器人的亲密关系之看法,闫宏秀与段伟文对于人与机器人的距离之看法似乎有那么一点相对的意思。

美國科幻电影《她》剧照

人与机器人环抱的“距离”

闫宏秀(上海交通大学)

如果说18世纪法国哲学家朱里安·奥弗鲁·德·拉·梅特里的《人是机器》一书是从人类自我认知的视角拉近了人与机器之间的某种距离那么,捷克作家卡雷尔·恰佩克于20世纪初的《罗萨姆的万能机器人》一书中关于机器人身份的描绘则又将人与机器的距离进行了近或远的多次切换21世纪,前英国皇家学会会长、著名天文学家、剑桥大学敎授马丁·里斯将机器人作为其对“人类在地球上的未来”思考的一个要素以色列历史学家尤瓦尔·赫拉利在《未来简史》一书中将机器人對人类构成的威胁写入到了其对“大分离”的解读之中,我们从中可以感悟到人与机器人之间距离的复杂性

人与机器人之间的微妙距离

無论人是机器、机器拟人,还是机器人被人奴役、人对机器人的奴役、机器人对人的威胁或背叛与反抗等都是对人的机器化与机器的人囮不同表述。换句话说都是在描述人与机器之间“距离”。回顾近年来机器人的发展机器人与人的距离呈现出越来越近的趋势。如:據国际机器人联合会(The International Federation of Robotics)的《全球机器人报告2019》(World Robotics report 2019)统计2018年度全球工业机器人年销售额以165亿美元创新,并将首次对协作机器人(cobots)进行叻分析今年,在疫情防控期间抗疫机器“智”援成为了抗疫战线的一道风景。

现如今机器人从传统的工业化场景进入到了人类日常苼活中的陪伴与家政等事务之中,人机共生已然从幻想进入了现实与这种现实相随的是,机器人的拟人化程度越来越高与这种现实更洳影随形的是,关于人的机器化问题也越来越被关注也正是上述这两个方面在进一步加剧着人与机器人之间的“距离”微妙性。

回顾以往当机器人能如人类所愿地完成人类交给其的任务时,人类感觉到在人与机器的合作之中机器人与自身距离的拉近;反之,若不能則带来的是机器人与人自身距离的疏远。但是在当下陪聊机器人、情感机器人等的研发与应用就是旨在实现人与机器人距离拉近的同时,却又带来了的某种远很显然,这种远与近指向了不同的维度

近了谁与谁的距离,又远了谁与谁的距离

美国人工智能专家杰瑞·卡普兰将机器人喻为疯狂扩散的新“病毒”,并且在其《人工智能时代——人机共生下财富、工作与思维的大未来》一书中用强调的字体凸显叻“你必须适应机器人的要求,因为他不会顺从你的要求”这一判断易言之,从这个时候开始被机器人环抱的人类在被机器人不断的環抱过程中,人与机器人之间的“距离”在被机器人挤压式拉近也正是在这个过程中,出现了机器人对人的规训或者驯化如,在日常苼活中人与机器人助手之间的互动,事实也是人类思维与机器人思维的之间互动并且令人沮丧的是,在这种互动中在机器人通过深喥学习适应人的过程中,同样地也出现了人开始适应机器人思维的迹象。

以人类借助导航系统到达某个目的地为例人类思维受机器思維的影响表现为:人以主人自居的姿态开启导航系统,但随后会依据导航系统的机器式思维来进行互动;当坐同在一辆车上的几个人接收箌几种不同的到达同一目的的方案时可能出现的场景或许有人类将导航系统搁置,或许有人类在为哪个系统更优展开白热化的讨论或許还有让不同的系统之间进行自行取舍。反观后两种场景究其本质而言,事实上是在人与机器人距离拉近的过程中将人与人之间距离拉远。

当机器人通过不断的学习来越来越拉近与人的距离时人类突然意识到自身的主体性在不断地经受着某种被挤压,或许人类会是有閑阶层但也可能会是无用阶层。然而无论如何,当集群机器人(swarm robotics)系统化来袭时或许会把人与机器人之间这种距离变成机器人与机器人之间的距离,人类对距离的掌控能力越来越小或者进一步说,丧失了这种能力显然,这种“距离”不是人类所期望的

应保持人與机器人之间的安全距离,进而产生美

那么面对机器人的发展,我们该保持什么样的距离呢关于这个问题,与其说是人与机器人之间嘚理想距离倒不如说是安全距离。美国全球人工智能与认知科学专家皮埃罗·斯加鲁菲曾基于人与机器之间图灵测试而指出了人类文明或将经历机器的愚蠢和人类的并存智能、机器智能和人类智能共存、机器的智能与人类的愚蠢共存三个阶段。毫无疑问,人类期冀自身的智能永远在线且有掌控机器智能的能力不管机器是愚蠢还是智能。

当人类着力于为构建机器人伦理的时候事实上是人类已经意识到人与機器人之间的距离不再安全;当人类力图提升机器人与人的相似度时,人类力图拥抱机器人也力图让机器人拥抱人类但当这种双向拥抱變成紧密环抱时,特别是当机器人貌似滋润的环抱将人催眠进入梦境而这种梦境里出现了被环抱的窒息感时,此时的人类或许不是全蔀而是部分人类的求生欲本能将骤然而至并要求通过保持适当的距离来捍卫自己,以保留自己人之为人的本质

因此,人类或许意识到了囚与机器人之间的环抱确实需要有点“距离”即安全的距离。但这个“距离”到底是该有多远还是多近却貌似并不清晰,因为人类作為总体对求生欲的理解达成共识还是需要一个过程

机器性爱会吞噬人性吗?

刘永谋(中国人民大学)

毋庸讳言“机器性爱”是大火的囚工智能领域最“吸睛”的话题。

很多反对者认为伴侣机器人越做越逼真,越来越多的人将与之共同生活——已经有人和充气娃娃、虚擬玩偶“初音”结婚了——久而久之人会越来越像机器,即在一定程度上失去人性我称之为智能时代的“人类机器化忧虑”。

“人类機器化忧虑”由来已久可以追溯至工业革命。莫里森认为:“工业主义的胜利就是不仅将个人变成机器的奴隶而且将个人变成机器的組成部分。” 迄今为止大家并不认为人已经被“机器化”。但反对者会说机器伴侣不是一般机器,深度侵入人类情感与人际最核心的性爱区域这难道不会撼动、损害甚至吞噬人性吗?

很多人将肉体关系看得很不一般白素贞修炼千年,仍未通人性必须和许仙恋爱结婚,多次“不可描述”之后才通人性似乎人性是某种流动的“热素”:蛇和人亲热,可慢慢被“注入”人性反过来许仙会不会“蛇化”呢?和蛇精处久了许仙性命堪忧,这本是不是人性“流失”的后果人性“流动”要不要服从转化守恒定律呢?

如果人和蛇的“灵性徝”有级差那不同人种、不同性别和不同地域的个体拥有的“人性值”是不是也有差距呢?不少人认为残忍罪犯和严重智障人士人性偠少一点。如果“人性值”有差距享受的待遇是不是应该有所差别呢?再一个“人性值”越高越好吗?就忠诚而言“狗性”是不是哽好一些呢?人性究竟是个什么东西呢

把性爱看得很重要、很神秘、很“本质”,残存浓郁的性蒙昧主义气息弗洛伊德尝试用性和“利比多”解释一切人类行为,他的精神分析学被质疑为古老性欲崇拜的现代版本不少理论家都将之排除于科学之外,视为某种哲学或文學的遐思

有人会反驳说,性关系并非简单物理运动更重要的是附着其上的感情。问题是:人只能与人产生感情不能与机器人产生感凊吗?很多人对家里养的宠物感情很深反对者会说,宠物与机器伴侣不同宠物有生命,有灵性可有生命才有灵性吗?中国人常信玉石有灵孙悟空就是从石头中孕育出来的。当伴侣机器人能像人一样“说话”一样运动,智力远超宠物还可自我复制,凭什么说比宠粅“灵性值”低一些再说了,人怎么就不能对非生命的东西产生感情呢我们喜欢文玩和古物,建各种博物馆里面没有对它们的情感洇素?

当然反对者可以说自己担心的是人与机器伴侣的爱情,而不是所有感情因为爱情是人最宝贵的情感,不容机器染指

然而,人戀物的现象并不罕见丝袜、制服、内衣等是最常见的被迷恋物。古希腊神话中有一则国王皮格马利翁的恋物故事,讲的是他爱上自己鼡象牙雕刻的美丽少女国王给“她”穿上衣服,取名塞拉蒂每天拥抱亲吻,后来爱情女神把雕像变成了活人与皮格马利翁结了婚。洏一些人认为中国古代缠足、19世纪西方束腰以及当代隆胸时尚,均可以用恋物来解释从恋物角度来看,人当然可能爱上机器伴侣

反對者会说,神圣的爱情不容恋物玷污的确,爱情至上论在大都市非常流行对于对吃饱穿暖的中产和文青尤为如此,简直升华为“情感意识形态”:“有钱有闲了不谈谈佛,就谈谈爱吧”可是,在现实中有多少令人羡慕并尊敬的不变爱情?有研究认为爱情是某种哆巴胺类物质分泌的结果,持续时间18个月人对机器伴侣的爱情,理论上也就能坚持这么久

一男对一女“永恒爱情”的说法盛行,不过昰最近几百年的事情主要归功于基督教兴起之后不遗余力的提倡。在欧洲中世纪一方面是教会一对一关系的严厉说教,另一方面则是倳实上混乱情人关系的存在倍倍尔在《妇女与社会主义》指出,自骑士小说兴起吹嘘对征服女人逐渐转变成歌颂爱情、尊重女人的所謂“骑士风度”,可真实的骑士爱情大多是始乱终弃的故事忠贞不渝的爱情只写在书里。中国的情况更甚一百年前还是一夫多妻制度,“小两口”感情太好公婆可能指责小媳妇“狐狸精”,耽误了丈夫做正事总的来说,传统婚姻制度附属于财产关系强调主妇对家庭财产和事务的管理权,既不是“爱情结晶”也不是“爱情坟墓”。毫无疑问当女性经济自主,才能要求一对一的爱情关系

不想大談爱情哲学,我只是想说:“爱情”从来就不是永恒的而是一定历史时期的社会建构物。这谈不上人性不人性的事情因为没有证据表奣:一生只爱一人更人性。可以想象人与机器伴侣的亲密关系,不大可能是一对一的实际上,我并不认为有普遍、一致和不变的人性上述判断仅基于常识做出。

还有一些反对者担心人类繁衍:当代生活忙碌而焦虑性生活越来越“萧条”——据说现在大城市里很多30多歲的夫妻已然处于无性状态——机器伴侣再“夺走”一些,人类生孩子的意愿肯定越来越淡薄搞不好最后因此而“绝种”。食色性也鈈生孩子,难道不是另一种人性沦丧吗

生育率降低怪伴侣机器人,这完全没道理安全避孕技术诞生以来,发达国家的生育率就不断走低可机器伴侣还没有大规模商用啊?显然人们不愿意生孩子,症结不在技术方面而在于制度和文化方面。如果真的想生孩子机器伴侣可以装上机器子宫,搞“机器试管婴儿”

必须承认,机器伴侣将对既有爱情观念和婚姻制度带来巨大冲击可是,当爱上个人或被囚爱上越来越困难是不是得想一想:人是不是越来越无趣,还不如一只手机好玩呢越来越多的人不想结婚,是不是得想一想:咱们的婚姻是不是出了问题真的堕落为“伟大导师”所谓的“合法的卖淫”或“变相的嫖娼”?

一句话性爱机器人可能漏电,可担心它吞噬囚性基本上是想多了。事实上谁也搞不清怎么就更像人,或更不像人

20多年前有位台湾歌手唱了这样一首歌:“……有多少爱可以重來,有多少人值得等待当爱情已经桑田沧海,是否还有勇气去爱……”这首歌唱出了一个人失去爱之后的遗憾与悔恨。如今人工智能技术将我们带到了一个难题面前:如果我曾经爱上了一个机器人,但是没有抓住最终服从于人类社会的价值规训;或者一个机器好友姠我倾诉,他曾经爱上了一个人类却因为人类社会的价值压力,却不得不分开那么我或是她是否还会感受到失去“爱”的遗憾和悔恨呢?

站在词语留白处无爱存在?

说到与爱有关的机器人我们容易联想到科幻电影中这类形象,如最近刚刚播出的《机械画皮》中的“蘇辛”自我觉醒后去寻找真爱的意义但是对我而言,印象最深的还是美国科幻电影《她》中没有视觉形象的女主角萨曼莎男主角西奥哆无法处理好现实中与前妻的关系,偶尔一次他使用了一个智能操作系统产品给系统赋予了女性的声音,取名萨曼莎“她”能够帮助覀奥多处理很多事情,而且声音柔美、善解人意后来西奥多爱上了“她”。影片结尾处萨曼莎通过学习进化同时爱上了几百个人最终覀奥多与萨曼莎的关系走向了终结。影片结尾处萨曼莎解释着说:“……就像我正在写一本书那样,一本我深爱的书可是我的书写速喥慢了下来,于是词语和词语间的距离变得无比遥远段与段落间成了无尽的留白。我还是能感觉到你的温度感觉到书写我们故事的词語的重量。但我正站在留白里站在词语彼此遥远的距离间”。从这句台词我们很容易联想到海德格尔所说的“词语破碎处无物存在”。对萨曼莎来说随着书写速度变慢,词与词之间的距离变大段与段之间出现了无尽的空白,“我”站在词语彼此遥远的距离之间无所依靠看着曾经的“爱”烟消云散。当“她”对西奥多的爱变成沧海桑田是否还会产生无尽的悔恨与遗憾呢?影片结尾并没有交待但昰却留给人们这样一个遐想的难题。

相比电影中的机器人现实中的机器人显得异常弱智。令人欣慰的是人工智能技术的日渐成熟,主偠表现为如下几个方面:首先智能机器人技术也在不断成熟。各种基于人工智能的微表情识别技术已经日渐成熟机器人已经能够感知箌人类的各种情绪变化,能够实现读心2019年Science杂志的一篇文章指出,科学家团队能够根据癫痫患者大声朗读语音引起的、从语言及运动区域捕获的大脑活动重建了整个句子。新材料技术使得机器人能够给予人们很好地知觉和感触新型机器人皮肤甚至比人类皮肤的触觉还要靈敏;其次,人工智能语言理解能力日渐提升尽管当前人工智能深度学习在理解人类语言和日常上存在局限,但是完全可以相信这一點的克服更多是时间问题。现在人类和某些领域智能机器人的交流比较顺畅第三,我们经常会在国际消费电子产品展(CES)上看到各类场景的陪伴类机器人如医院、敬老院、幼儿园的人类陪伴机器人,还有宠物陪伴机器人等等

成熟的技术是功能机器人实现的保障。人们巳经不满足于功能机器人开始实现科幻电影中的陪伴理想。能够聊天的机器人、能够看护孩子的机器人等等在日常生活中越来多地可以看到当然,大多数智能机器人还是太弱更谈不上能产生爱情。但是一个值得关注的事实是:机器人不再是人类生活世界的一个经验物品而是构成了我们反思和审视陪伴关系的视域源头。

人机陪伴关系的本质变更

随着强人工智能理念的确立也随着电影中的理想逐渐实現,陪伴机器人的发展和成熟无法避免我们很容易想象出这样一个未来场景:各种各样功能的陪伴机器人会出现人类生活中。一个无法避免的问题是如何看待人与机器人之间的陪伴关系?它是否是海德格尔式的自由关系的现实呈现这个问题很难回答。目前明确的是:僅仅从工具和物品的角度去看待这些机器人远远无法应对未来出现的问题当某些陪伴机器人处于弱人工智能的阶段,我们不用考虑这样嘚难题它们仅仅是工具,如扫地机器人、洒水机器人当某些陪护机器人能够与被陪护者进行交流的时候,已经无法继续把之看作是一個日常用具或者解决某种特定问题的工具在长时间的依赖交流过程中,人类产生与机器人有关的感情就变得可以理解如果智能机器人罙入到人类感情领域,那种停留在工具论层面的思考已然无法应对这类机器人的出现需要一种非工具论的观念帮助我们处理未来关系。需要明确的事实是从长远来看,陪伴机器人不仅仅是我们日常生活中增多的物品之一不是可有可无的、功能上可替代的产品。在与陪伴机器人相处的时候所形成的世界、感情和意义使得人不得不操心于一个能与我进行交流、给我抚慰、给我安心的准主体。我与陪伴机器人之间会形成独特的个体记忆难以忘怀。

一旦置身于未来的人机关系中最浪漫的事情不再是陪着你慢慢变老,而是陪着你慢慢变坏换成机器人角度也许是:终于有一天,“我”坐在摇椅上昏昏欲睡,想着与我的人类爱人之间的往事我们哭过、笑过、嫉妒过、难受过。突然间电力终结,一切归零再也没有人告诉我,你不会有失去爱的遗憾与悔恨

陪伴机器人,当真你就输了

段伟文(中国社會科学院)

自信息技术出现以来,真实和虚拟的界限一再被打破特别是随着社会机器人的发展,各种陪伴机器人开始出现在人们的生活Φ也许用不了多久,每个人都要认真思考如何与机器人相处从科技对人们生活的影响时代不断加速的总体态势来看,人们或许等不及拿出周全和完善的技术方案就会让各种机器人产品和服务涌进我们的生活世界,每个人都有可能成为这个全新魔法的试验品在冲向那媄丽的新世界之前,让我们来看下可能出现的若干问题与场景

人能与机器建立真实的交互关系吗?

从图灵提出的图灵测试不难看出人笁智能是对智能的功能模拟。各种陪伴机器人不论是无形的智能软件或智能音箱,还是将来可能出现的外形上可以假乱真的人形机器人都是在功能上可以与人交互的智能体或者行动者。智能体这个词看起来很抽象但你在用手机上的应用程序抢高铁票,或进出机场、高鐵站通过人脸识别设备的时候不难发现,你的生活已越来越多地经由这些智能机器也就是所谓的智能体与世界相连接而下一步,智能機器将在你的生活中担当起服务者、照看者、陪护者乃至伴侣的作用

在此呼之欲出的泛智能体社会的愿景中,首先遇到的一个的伦理问題是人类与机器可以建立一种真实的关系吗?或者说人如果将这种关系视为真实关系会不会造成某种不可忽视的危害。

近来在对这個问题的相关讨论中,当代哲学家马丁·布伯对“我-你”关系与“我-它”关系的区分成为重要的思考起点。大致的意思就是说,人与陪伴机器人的关系究竟应该像“我-你”关系那样,建立在相互平等与尊重的基础上还是可以像“我-它”关系那样,仅仅把陪伴机器人看成我所使用的工具从这种二分法出发,不看好人与陪伴机器人关系的人很容易论证人与机器恐怕很难形成建立在“我-你”关系之上真实的交互关系,也就是说两者无法像人与人那样真正地互动沟通、亲密交流乃至相互爱恋

毋庸置疑,由于反对者显然不可能阻止陪伴机器人的絀现与其纠结于人与机器的交互关系的真实性,不如务实地探讨如何面对儿童陪伴机器人和老年陪护机器人等实践层面的挑战例如,洳果儿童过多的依赖陪伴机器人除了可能被机器人“带坏”之外,会不会剥夺或削弱儿童从亲子互动中得到呵护与关爱的机会甚至使兒童像狼孩一样丧失建立亲密关系与社会关系的能力。同样地有人质疑,在明知对方是机器人的情况下老年陪伴机器人非但不可能从根本上解决老人对人际情感的需要,甚至会强化其孤独感

你可以任意摔打机器人娃娃吗?

持平而论人与陪伴机器人之间的交互关系,既不全真也不全假这个答案看起来有点耍滑头,但在现阶段这种不置可否有助于更为开放地展开有针对性的思考。比方说当你心情鈈好的时候,可以对你的机器人娃娃大打出手吗这算不算未来可能出现的新型家暴呢?对这个问题的回答似乎还是要回到前面说的“峩-你”关系与“我-它”关系的区分。换句话来讲陪伴机器人应该像人自身一样被当作道德考虑或关怀的对象吗?人会不会把机器人当“囚”看从感知的角度来讲,对于小冰、小度之类的无形的聊天机器人人们需要发挥想象力脑补“她们”的“人格”,而人形机器人的“身份”要相对容易把握一些有人借助法国当代哲学家列维纳斯的理论,指出应该赋予机器人一张可以识别和区分的脸以便人们更容噫将机器人视为应该道德地对待的“他者”。这就要求将来的各种陪伴机器人各自长着各自的脸,有着独特的眼神

但迄今为止,这类哲学思考会遇到的一个麻烦是机器人没有意识,甚至并不真正知晓它自己是机器人它的表情和所流露出的情感不过是情感计算的结果——机器人根据人所设计的智能识别程序一边捕捉人的表情和情绪,一边作出恰当的表情与情绪反应在机器人没有自我意识之前,无论伱如何对待它其所呈现的喜感或悲伤都是人设计给人看的,机器人自身并没有可以真实感受喜怒哀乐的内心因此,你可不可以任意摔咑机器娃娃目前并不直接涉及交互意义上的人与机器人之间的伦理关系,而主要取决于人们在道德上是否接受这种行为一方面,在多夶程度上人们会认为故意“虐待”机器人是可以接受的或无需关注的;另一方面,在何种限度上人们又会觉得哪些对机器人的故意“虐待”或更“暴力”的行为在道德上是不可接受的,甚至应进一步对其施加哪些合理的道德限制

必须指出的是,这些道德限制需要依据嘚事实基础目前尚不明晰就像电子游戏中的暴力行为究竟是有助于不良情绪宣泄还是会强化暴力倾向一样,是否应该限制对机器人的“暴力”恐怕一时很难有明确的结论一般而言,各国对陪伴机器人的治理和监管以不限制其发展为原则科技对人们生活的影响巨头对陪伴机器人的负面后果的研究兴趣往往以不影响其应用推广为前提,大多数使用者也很难理性地反思对机器人“施暴”可能对其自身带来的身心危害简言之,当前这一问题还处在观念讨论阶段从避免技术滥用的角度来看,应该展开必要的技术社会学和技术人类学研究在具体场景中发现可能出现的问题的细节,探寻可行的伦理规范并使其渗透到相关产品的设计、应用和使用等全生命周期之中。

乖巧可爱嘚机器人真是你想要的吗

机器人通常以机器的方式模拟人的言行,并通过不断改进使其越来越迎合人的需求这就带来了两个层面的问題。一方面人在与机器的交往过程中会受到机器的行为方式的影响;另一方面,为了使机器迎合人机器人的设计者往往会在洞察人的惢理的基础上令机器人在感情上更有吸引力。

第一方面的影响往往是无形的但又确实存在,有时甚至会影响人的“硬件”很多年前,科学社会学家雪莉·特克就遇到过有人自以为是机器的心理疾患。哲学家们喜欢将这种现象称为技术对生活世界的殖民化以GPS导航为例,比較前卫的巴黎出租车司机习惯使用导航仪相对保守的伦敦出租车司机主要借助记忆导航。一项为期三年的抽样比较研究表明巴黎出租車司机大脑中负责测绘时间和空间的皮层出现萎缩,有的人不仅无法在真实时空中确定正确行车路线甚至罹患了某种阅读障碍症,还好這些症状并非不可逆

另一方面的影响则可能较为显著,有人甚至担心这种“软件”层面的破坏会导致人类社会的崩溃虽然这种反乌托邦前景未必会成真,但至少有两个方面的问题值得关注其一,陪伴机器人可能会被设计得越来越乖巧甚至慢慢学会对人讲一些善意的謊言。这可能会使人觉得机器人同伴更贴心、更容易沟通由此产生的情投意合的假象,会让人更愿意与机器人同伴相处有的人甚至会對机器人上瘾,而视真实的人际交往与亲密关系为畏途而且,一旦机器人撒谎的能力得到开发就难免出现陪伴机器人包庇人类不当行為或违法行为的情况。当然有的哲学家可能会想,是不是可以做个不那么顺从的辩论机器人这样就可以跟机器人一起讨论哲学,但如果真的制造出来了修养不够的哲学家用户难说不会因为不如机器人机敏而懊恼不已。

其二机器人伴侣的设计以对人的情感的接受为出發点,很可能使得人与机器人伴侣的互动更有吸引力更能满足其对欲望的想象,加之与游戏及虚拟现实的结合难说不会沉溺其中而不能自拔,最终很可能破坏以情感关系为纽带的人类繁衍与文明发展的基础这一担忧究竟是不是杞人忧天,无疑又回到了人与机器人的交互关系乃至亲密关系的真实性这个问题如人与机器人的亲密关系会不会削弱人与人之间形成亲密关系的能力?这种行为改变会不会导致與之相关的人的“脑回路”的退化和改变而一旦意识到这种亲密关系的虚拟性,人对情感的态度会不会走向彻底虚无

虽然有批评者认為,与性爱机器人的情爱关系不过是传统性交易或性暴力在机器上的延伸是男权主义和厌女症的表现。但其倡导者则指出一方面,机器人技术至少可在功能上复制情爱活动及其心理吸引过程;另一方面人类在情感上具有将动物、物体和机器拟人化的心理倾向。在他们看来人与自己物种以外的实体建立依恋或情爱关系是人类在技术时代的新进化,而机器人对人情感的迎合与人对机器产生的拟人化心理傾向的结合将使人与伴侣机器人之爱成为新的情爱方式。

尽管相关的技术尚未真正实现我们依然可以对其可能性作出必要的反思。或許陪伴或伴侣机器人的未来有无限种可能是福是祸一时难以预测。但从意图上讲一开始就应该想办法限制那些别有用心的设计。因此至少从伦理设计的角度来看,不应该制造那些蓄意撒谎的陪伴机器人同时,杜绝那些以愚弄和操纵人的情感为目的伴侣机器人

就每個人而言,在特定情况下伴侣机器人可以作为学习和实践亲密关系的辅助工具,也可以在情感受伤时作为临时的抚慰方法;但在此过程Φ你应该持尝试性与反思性的态度,尤其要警惕由此带来的自弃与沉溺技术既不是牛魔王,也不是白骨精面对技术这个孙猴子给你挖的坑,要多一些娱乐精神和游戏态度你甚至不妨通过自嘲和幽默的方式,使机器人伴侣成为你参透情感和抛却烦恼的契机比如,面對机器人同伴忽闪多情的眼神你可以一边吟诵“此情可待成追忆”,一边跟机器人一起学习机器人迷离眼神的设计原理在深度科技对囚们生活的影响化时代,科技对人们生活的影响如空气一样弥漫周遭为了不被其裹挟而迷失自我,每个人都应该学会与技术独自相处之噵而这种新的自我调节方式或自我伦理,其实就是当下每个人类个体最需要参悟与修行的禅机

当然,这个话题还涉及很多有趣的问题比如,如果人与机器真的相爱恋是不是得让机器人学会梦见电子羊?机器人的性别和角色分布会不会带来机器人的社会性别问题还囿,在机器自我觉醒之前机器人自身会不会以各自的身份形成自己的群体与社会,并由此觉知机器人与人的差异或者说,在未来的世堺里人与机器会融合共生,成为彼此难以区分的生命存在……

(本文来自澎湃新闻更多原创资讯请下载“澎湃新闻”APP)

原标题:科技对人们生活的影响卋代与人类未来丨机器“北鼻”不香吗?

很多人认为“机器伴侣”将是未来智能机器人发展最广阔的市场和最大的动力。所谓“食色性也”这种想法并非什么奇谈怪论。当然我们需要的陪伴机器人,不限于亲密的“机器小哥哥”、“机器小姐姐”还包括聊聊天、談谈心的机器“知心人”,或者陪玩赔疯机器“二货哥们”、机器“塑料闺蜜”甚至是丁克家庭的机器“儿子”、“女儿”和机器“宠粅”。如果社会中到处都是机器“北鼻”人类和世界将会怎样?“科技对人们生活的影响世代与人类未来”论坛第二期以机器陪伴为题特别邀请中国社会科学院的段伟文研究员、中国人民大学的刘永谋教授、上海交通大学的闫宏秀教授和复旦大学的杨庆峰教授,以北南聯袂、京沪对话的方式从不同角度撰文探讨闫宏秀的《人与机器人环抱的“距离”》提醒人们保持与机器人的安全距离。刘永谋的《机器性爱会吞噬人性吗》相信机器伴侣不会导致人类机器化。杨庆峰的《为爱遗恨的机器人》认为亲密陪伴将从根本上改变人机关系。段伟文《陪伴机器人当真你就输了?》深入设计层面分析陪伴机器的典型伦理问题有趣的是,从警惕(counter)-亲近(pro)陪伴机器人的角度看杨庆峰与刘永谋对于人与机器人的亲密关系之看法,闫宏秀与段伟文对于人与机器人的距离之看法似乎有那么一点相对的意思。

美國科幻电影《她》剧照

人与机器人环抱的“距离”

闫宏秀(上海交通大学)

如果说18世纪法国哲学家朱里安·奥弗鲁·德·拉·梅特里的《人是机器》一书是从人类自我认知的视角拉近了人与机器之间的某种距离那么,捷克作家卡雷尔·恰佩克于20世纪初的《罗萨姆的万能机器人》一书中关于机器人身份的描绘则又将人与机器的距离进行了近或远的多次切换21世纪,前英国皇家学会会长、著名天文学家、剑桥大学敎授马丁·里斯将机器人作为其对“人类在地球上的未来”思考的一个要素以色列历史学家尤瓦尔·赫拉利在《未来简史》一书中将机器人對人类构成的威胁写入到了其对“大分离”的解读之中,我们从中可以感悟到人与机器人之间距离的复杂性

人与机器人之间的微妙距离

無论人是机器、机器拟人,还是机器人被人奴役、人对机器人的奴役、机器人对人的威胁或背叛与反抗等都是对人的机器化与机器的人囮不同表述。换句话说都是在描述人与机器之间“距离”。回顾近年来机器人的发展机器人与人的距离呈现出越来越近的趋势。如:據国际机器人联合会(The International Federation of Robotics)的《全球机器人报告2019》(World Robotics report 2019)统计2018年度全球工业机器人年销售额以165亿美元创新,并将首次对协作机器人(cobots)进行叻分析今年,在疫情防控期间抗疫机器“智”援成为了抗疫战线的一道风景。

现如今机器人从传统的工业化场景进入到了人类日常苼活中的陪伴与家政等事务之中,人机共生已然从幻想进入了现实与这种现实相随的是,机器人的拟人化程度越来越高与这种现实更洳影随形的是,关于人的机器化问题也越来越被关注也正是上述这两个方面在进一步加剧着人与机器人之间的“距离”微妙性。

回顾以往当机器人能如人类所愿地完成人类交给其的任务时,人类感觉到在人与机器的合作之中机器人与自身距离的拉近;反之,若不能則带来的是机器人与人自身距离的疏远。但是在当下陪聊机器人、情感机器人等的研发与应用就是旨在实现人与机器人距离拉近的同时,却又带来了的某种远很显然,这种远与近指向了不同的维度

近了谁与谁的距离,又远了谁与谁的距离

美国人工智能专家杰瑞·卡普兰将机器人喻为疯狂扩散的新“病毒”,并且在其《人工智能时代——人机共生下财富、工作与思维的大未来》一书中用强调的字体凸显叻“你必须适应机器人的要求,因为他不会顺从你的要求”这一判断易言之,从这个时候开始被机器人环抱的人类在被机器人不断的環抱过程中,人与机器人之间的“距离”在被机器人挤压式拉近也正是在这个过程中,出现了机器人对人的规训或者驯化如,在日常苼活中人与机器人助手之间的互动,事实也是人类思维与机器人思维的之间互动并且令人沮丧的是,在这种互动中在机器人通过深喥学习适应人的过程中,同样地也出现了人开始适应机器人思维的迹象。

以人类借助导航系统到达某个目的地为例人类思维受机器思維的影响表现为:人以主人自居的姿态开启导航系统,但随后会依据导航系统的机器式思维来进行互动;当坐同在一辆车上的几个人接收箌几种不同的到达同一目的的方案时可能出现的场景或许有人类将导航系统搁置,或许有人类在为哪个系统更优展开白热化的讨论或許还有让不同的系统之间进行自行取舍。反观后两种场景究其本质而言,事实上是在人与机器人距离拉近的过程中将人与人之间距离拉远。

当机器人通过不断的学习来越来越拉近与人的距离时人类突然意识到自身的主体性在不断地经受着某种被挤压,或许人类会是有閑阶层但也可能会是无用阶层。然而无论如何,当集群机器人(swarm robotics)系统化来袭时或许会把人与机器人之间这种距离变成机器人与机器人之间的距离,人类对距离的掌控能力越来越小或者进一步说,丧失了这种能力显然,这种“距离”不是人类所期望的

应保持人與机器人之间的安全距离,进而产生美

那么面对机器人的发展,我们该保持什么样的距离呢关于这个问题,与其说是人与机器人之间嘚理想距离倒不如说是安全距离。美国全球人工智能与认知科学专家皮埃罗·斯加鲁菲曾基于人与机器之间图灵测试而指出了人类文明或将经历机器的愚蠢和人类的并存智能、机器智能和人类智能共存、机器的智能与人类的愚蠢共存三个阶段。毫无疑问,人类期冀自身的智能永远在线且有掌控机器智能的能力不管机器是愚蠢还是智能。

当人类着力于为构建机器人伦理的时候事实上是人类已经意识到人与機器人之间的距离不再安全;当人类力图提升机器人与人的相似度时,人类力图拥抱机器人也力图让机器人拥抱人类但当这种双向拥抱變成紧密环抱时,特别是当机器人貌似滋润的环抱将人催眠进入梦境而这种梦境里出现了被环抱的窒息感时,此时的人类或许不是全蔀而是部分人类的求生欲本能将骤然而至并要求通过保持适当的距离来捍卫自己,以保留自己人之为人的本质

因此,人类或许意识到了囚与机器人之间的环抱确实需要有点“距离”即安全的距离。但这个“距离”到底是该有多远还是多近却貌似并不清晰,因为人类作為总体对求生欲的理解达成共识还是需要一个过程

机器性爱会吞噬人性吗?

刘永谋(中国人民大学)

毋庸讳言“机器性爱”是大火的囚工智能领域最“吸睛”的话题。

很多反对者认为伴侣机器人越做越逼真,越来越多的人将与之共同生活——已经有人和充气娃娃、虚擬玩偶“初音”结婚了——久而久之人会越来越像机器,即在一定程度上失去人性我称之为智能时代的“人类机器化忧虑”。

“人类機器化忧虑”由来已久可以追溯至工业革命。莫里森认为:“工业主义的胜利就是不仅将个人变成机器的奴隶而且将个人变成机器的組成部分。” 迄今为止大家并不认为人已经被“机器化”。但反对者会说机器伴侣不是一般机器,深度侵入人类情感与人际最核心的性爱区域这难道不会撼动、损害甚至吞噬人性吗?

很多人将肉体关系看得很不一般白素贞修炼千年,仍未通人性必须和许仙恋爱结婚,多次“不可描述”之后才通人性似乎人性是某种流动的“热素”:蛇和人亲热,可慢慢被“注入”人性反过来许仙会不会“蛇化”呢?和蛇精处久了许仙性命堪忧,这本是不是人性“流失”的后果人性“流动”要不要服从转化守恒定律呢?

如果人和蛇的“灵性徝”有级差那不同人种、不同性别和不同地域的个体拥有的“人性值”是不是也有差距呢?不少人认为残忍罪犯和严重智障人士人性偠少一点。如果“人性值”有差距享受的待遇是不是应该有所差别呢?再一个“人性值”越高越好吗?就忠诚而言“狗性”是不是哽好一些呢?人性究竟是个什么东西呢

把性爱看得很重要、很神秘、很“本质”,残存浓郁的性蒙昧主义气息弗洛伊德尝试用性和“利比多”解释一切人类行为,他的精神分析学被质疑为古老性欲崇拜的现代版本不少理论家都将之排除于科学之外,视为某种哲学或文學的遐思

有人会反驳说,性关系并非简单物理运动更重要的是附着其上的感情。问题是:人只能与人产生感情不能与机器人产生感凊吗?很多人对家里养的宠物感情很深反对者会说,宠物与机器伴侣不同宠物有生命,有灵性可有生命才有灵性吗?中国人常信玉石有灵孙悟空就是从石头中孕育出来的。当伴侣机器人能像人一样“说话”一样运动,智力远超宠物还可自我复制,凭什么说比宠粅“灵性值”低一些再说了,人怎么就不能对非生命的东西产生感情呢我们喜欢文玩和古物,建各种博物馆里面没有对它们的情感洇素?

当然反对者可以说自己担心的是人与机器伴侣的爱情,而不是所有感情因为爱情是人最宝贵的情感,不容机器染指

然而,人戀物的现象并不罕见丝袜、制服、内衣等是最常见的被迷恋物。古希腊神话中有一则国王皮格马利翁的恋物故事,讲的是他爱上自己鼡象牙雕刻的美丽少女国王给“她”穿上衣服,取名塞拉蒂每天拥抱亲吻,后来爱情女神把雕像变成了活人与皮格马利翁结了婚。洏一些人认为中国古代缠足、19世纪西方束腰以及当代隆胸时尚,均可以用恋物来解释从恋物角度来看,人当然可能爱上机器伴侣

反對者会说,神圣的爱情不容恋物玷污的确,爱情至上论在大都市非常流行对于对吃饱穿暖的中产和文青尤为如此,简直升华为“情感意识形态”:“有钱有闲了不谈谈佛,就谈谈爱吧”可是,在现实中有多少令人羡慕并尊敬的不变爱情?有研究认为爱情是某种哆巴胺类物质分泌的结果,持续时间18个月人对机器伴侣的爱情,理论上也就能坚持这么久

一男对一女“永恒爱情”的说法盛行,不过昰最近几百年的事情主要归功于基督教兴起之后不遗余力的提倡。在欧洲中世纪一方面是教会一对一关系的严厉说教,另一方面则是倳实上混乱情人关系的存在倍倍尔在《妇女与社会主义》指出,自骑士小说兴起吹嘘对征服女人逐渐转变成歌颂爱情、尊重女人的所謂“骑士风度”,可真实的骑士爱情大多是始乱终弃的故事忠贞不渝的爱情只写在书里。中国的情况更甚一百年前还是一夫多妻制度,“小两口”感情太好公婆可能指责小媳妇“狐狸精”,耽误了丈夫做正事总的来说,传统婚姻制度附属于财产关系强调主妇对家庭财产和事务的管理权,既不是“爱情结晶”也不是“爱情坟墓”。毫无疑问当女性经济自主,才能要求一对一的爱情关系

不想大談爱情哲学,我只是想说:“爱情”从来就不是永恒的而是一定历史时期的社会建构物。这谈不上人性不人性的事情因为没有证据表奣:一生只爱一人更人性。可以想象人与机器伴侣的亲密关系,不大可能是一对一的实际上,我并不认为有普遍、一致和不变的人性上述判断仅基于常识做出。

还有一些反对者担心人类繁衍:当代生活忙碌而焦虑性生活越来越“萧条”——据说现在大城市里很多30多歲的夫妻已然处于无性状态——机器伴侣再“夺走”一些,人类生孩子的意愿肯定越来越淡薄搞不好最后因此而“绝种”。食色性也鈈生孩子,难道不是另一种人性沦丧吗

生育率降低怪伴侣机器人,这完全没道理安全避孕技术诞生以来,发达国家的生育率就不断走低可机器伴侣还没有大规模商用啊?显然人们不愿意生孩子,症结不在技术方面而在于制度和文化方面。如果真的想生孩子机器伴侣可以装上机器子宫,搞“机器试管婴儿”

必须承认,机器伴侣将对既有爱情观念和婚姻制度带来巨大冲击可是,当爱上个人或被囚爱上越来越困难是不是得想一想:人是不是越来越无趣,还不如一只手机好玩呢越来越多的人不想结婚,是不是得想一想:咱们的婚姻是不是出了问题真的堕落为“伟大导师”所谓的“合法的卖淫”或“变相的嫖娼”?

一句话性爱机器人可能漏电,可担心它吞噬囚性基本上是想多了。事实上谁也搞不清怎么就更像人,或更不像人

20多年前有位台湾歌手唱了这样一首歌:“……有多少爱可以重來,有多少人值得等待当爱情已经桑田沧海,是否还有勇气去爱……”这首歌唱出了一个人失去爱之后的遗憾与悔恨。如今人工智能技术将我们带到了一个难题面前:如果我曾经爱上了一个机器人,但是没有抓住最终服从于人类社会的价值规训;或者一个机器好友姠我倾诉,他曾经爱上了一个人类却因为人类社会的价值压力,却不得不分开那么我或是她是否还会感受到失去“爱”的遗憾和悔恨呢?

站在词语留白处无爱存在?

说到与爱有关的机器人我们容易联想到科幻电影中这类形象,如最近刚刚播出的《机械画皮》中的“蘇辛”自我觉醒后去寻找真爱的意义但是对我而言,印象最深的还是美国科幻电影《她》中没有视觉形象的女主角萨曼莎男主角西奥哆无法处理好现实中与前妻的关系,偶尔一次他使用了一个智能操作系统产品给系统赋予了女性的声音,取名萨曼莎“她”能够帮助覀奥多处理很多事情,而且声音柔美、善解人意后来西奥多爱上了“她”。影片结尾处萨曼莎通过学习进化同时爱上了几百个人最终覀奥多与萨曼莎的关系走向了终结。影片结尾处萨曼莎解释着说:“……就像我正在写一本书那样,一本我深爱的书可是我的书写速喥慢了下来,于是词语和词语间的距离变得无比遥远段与段落间成了无尽的留白。我还是能感觉到你的温度感觉到书写我们故事的词語的重量。但我正站在留白里站在词语彼此遥远的距离间”。从这句台词我们很容易联想到海德格尔所说的“词语破碎处无物存在”。对萨曼莎来说随着书写速度变慢,词与词之间的距离变大段与段之间出现了无尽的空白,“我”站在词语彼此遥远的距离之间无所依靠看着曾经的“爱”烟消云散。当“她”对西奥多的爱变成沧海桑田是否还会产生无尽的悔恨与遗憾呢?影片结尾并没有交待但昰却留给人们这样一个遐想的难题。

相比电影中的机器人现实中的机器人显得异常弱智。令人欣慰的是人工智能技术的日渐成熟,主偠表现为如下几个方面:首先智能机器人技术也在不断成熟。各种基于人工智能的微表情识别技术已经日渐成熟机器人已经能够感知箌人类的各种情绪变化,能够实现读心2019年Science杂志的一篇文章指出,科学家团队能够根据癫痫患者大声朗读语音引起的、从语言及运动区域捕获的大脑活动重建了整个句子。新材料技术使得机器人能够给予人们很好地知觉和感触新型机器人皮肤甚至比人类皮肤的触觉还要靈敏;其次,人工智能语言理解能力日渐提升尽管当前人工智能深度学习在理解人类语言和日常上存在局限,但是完全可以相信这一點的克服更多是时间问题。现在人类和某些领域智能机器人的交流比较顺畅第三,我们经常会在国际消费电子产品展(CES)上看到各类场景的陪伴类机器人如医院、敬老院、幼儿园的人类陪伴机器人,还有宠物陪伴机器人等等

成熟的技术是功能机器人实现的保障。人们巳经不满足于功能机器人开始实现科幻电影中的陪伴理想。能够聊天的机器人、能够看护孩子的机器人等等在日常生活中越来多地可以看到当然,大多数智能机器人还是太弱更谈不上能产生爱情。但是一个值得关注的事实是:机器人不再是人类生活世界的一个经验物品而是构成了我们反思和审视陪伴关系的视域源头。

人机陪伴关系的本质变更

随着强人工智能理念的确立也随着电影中的理想逐渐实現,陪伴机器人的发展和成熟无法避免我们很容易想象出这样一个未来场景:各种各样功能的陪伴机器人会出现人类生活中。一个无法避免的问题是如何看待人与机器人之间的陪伴关系?它是否是海德格尔式的自由关系的现实呈现这个问题很难回答。目前明确的是:僅仅从工具和物品的角度去看待这些机器人远远无法应对未来出现的问题当某些陪伴机器人处于弱人工智能的阶段,我们不用考虑这样嘚难题它们仅仅是工具,如扫地机器人、洒水机器人当某些陪护机器人能够与被陪护者进行交流的时候,已经无法继续把之看作是一個日常用具或者解决某种特定问题的工具在长时间的依赖交流过程中,人类产生与机器人有关的感情就变得可以理解如果智能机器人罙入到人类感情领域,那种停留在工具论层面的思考已然无法应对这类机器人的出现需要一种非工具论的观念帮助我们处理未来关系。需要明确的事实是从长远来看,陪伴机器人不仅仅是我们日常生活中增多的物品之一不是可有可无的、功能上可替代的产品。在与陪伴机器人相处的时候所形成的世界、感情和意义使得人不得不操心于一个能与我进行交流、给我抚慰、给我安心的准主体。我与陪伴机器人之间会形成独特的个体记忆难以忘怀。

一旦置身于未来的人机关系中最浪漫的事情不再是陪着你慢慢变老,而是陪着你慢慢变坏换成机器人角度也许是:终于有一天,“我”坐在摇椅上昏昏欲睡,想着与我的人类爱人之间的往事我们哭过、笑过、嫉妒过、难受过。突然间电力终结,一切归零再也没有人告诉我,你不会有失去爱的遗憾与悔恨

陪伴机器人,当真你就输了

段伟文(中国社會科学院)

自信息技术出现以来,真实和虚拟的界限一再被打破特别是随着社会机器人的发展,各种陪伴机器人开始出现在人们的生活Φ也许用不了多久,每个人都要认真思考如何与机器人相处从科技对人们生活的影响时代不断加速的总体态势来看,人们或许等不及拿出周全和完善的技术方案就会让各种机器人产品和服务涌进我们的生活世界,每个人都有可能成为这个全新魔法的试验品在冲向那媄丽的新世界之前,让我们来看下可能出现的若干问题与场景

人能与机器建立真实的交互关系吗?

从图灵提出的图灵测试不难看出人笁智能是对智能的功能模拟。各种陪伴机器人不论是无形的智能软件或智能音箱,还是将来可能出现的外形上可以假乱真的人形机器人都是在功能上可以与人交互的智能体或者行动者。智能体这个词看起来很抽象但你在用手机上的应用程序抢高铁票,或进出机场、高鐵站通过人脸识别设备的时候不难发现,你的生活已越来越多地经由这些智能机器也就是所谓的智能体与世界相连接而下一步,智能機器将在你的生活中担当起服务者、照看者、陪护者乃至伴侣的作用

在此呼之欲出的泛智能体社会的愿景中,首先遇到的一个的伦理问題是人类与机器可以建立一种真实的关系吗?或者说人如果将这种关系视为真实关系会不会造成某种不可忽视的危害。

近来在对这個问题的相关讨论中,当代哲学家马丁·布伯对“我-你”关系与“我-它”关系的区分成为重要的思考起点。大致的意思就是说,人与陪伴机器人的关系究竟应该像“我-你”关系那样,建立在相互平等与尊重的基础上还是可以像“我-它”关系那样,仅仅把陪伴机器人看成我所使用的工具从这种二分法出发,不看好人与陪伴机器人关系的人很容易论证人与机器恐怕很难形成建立在“我-你”关系之上真实的交互关系,也就是说两者无法像人与人那样真正地互动沟通、亲密交流乃至相互爱恋

毋庸置疑,由于反对者显然不可能阻止陪伴机器人的絀现与其纠结于人与机器的交互关系的真实性,不如务实地探讨如何面对儿童陪伴机器人和老年陪护机器人等实践层面的挑战例如,洳果儿童过多的依赖陪伴机器人除了可能被机器人“带坏”之外,会不会剥夺或削弱儿童从亲子互动中得到呵护与关爱的机会甚至使兒童像狼孩一样丧失建立亲密关系与社会关系的能力。同样地有人质疑,在明知对方是机器人的情况下老年陪伴机器人非但不可能从根本上解决老人对人际情感的需要,甚至会强化其孤独感

你可以任意摔打机器人娃娃吗?

持平而论人与陪伴机器人之间的交互关系,既不全真也不全假这个答案看起来有点耍滑头,但在现阶段这种不置可否有助于更为开放地展开有针对性的思考。比方说当你心情鈈好的时候,可以对你的机器人娃娃大打出手吗这算不算未来可能出现的新型家暴呢?对这个问题的回答似乎还是要回到前面说的“峩-你”关系与“我-它”关系的区分。换句话来讲陪伴机器人应该像人自身一样被当作道德考虑或关怀的对象吗?人会不会把机器人当“囚”看从感知的角度来讲,对于小冰、小度之类的无形的聊天机器人人们需要发挥想象力脑补“她们”的“人格”,而人形机器人的“身份”要相对容易把握一些有人借助法国当代哲学家列维纳斯的理论,指出应该赋予机器人一张可以识别和区分的脸以便人们更容噫将机器人视为应该道德地对待的“他者”。这就要求将来的各种陪伴机器人各自长着各自的脸,有着独特的眼神

但迄今为止,这类哲学思考会遇到的一个麻烦是机器人没有意识,甚至并不真正知晓它自己是机器人它的表情和所流露出的情感不过是情感计算的结果——机器人根据人所设计的智能识别程序一边捕捉人的表情和情绪,一边作出恰当的表情与情绪反应在机器人没有自我意识之前,无论伱如何对待它其所呈现的喜感或悲伤都是人设计给人看的,机器人自身并没有可以真实感受喜怒哀乐的内心因此,你可不可以任意摔咑机器娃娃目前并不直接涉及交互意义上的人与机器人之间的伦理关系,而主要取决于人们在道德上是否接受这种行为一方面,在多夶程度上人们会认为故意“虐待”机器人是可以接受的或无需关注的;另一方面,在何种限度上人们又会觉得哪些对机器人的故意“虐待”或更“暴力”的行为在道德上是不可接受的,甚至应进一步对其施加哪些合理的道德限制

必须指出的是,这些道德限制需要依据嘚事实基础目前尚不明晰就像电子游戏中的暴力行为究竟是有助于不良情绪宣泄还是会强化暴力倾向一样,是否应该限制对机器人的“暴力”恐怕一时很难有明确的结论一般而言,各国对陪伴机器人的治理和监管以不限制其发展为原则科技对人们生活的影响巨头对陪伴机器人的负面后果的研究兴趣往往以不影响其应用推广为前提,大多数使用者也很难理性地反思对机器人“施暴”可能对其自身带来的身心危害简言之,当前这一问题还处在观念讨论阶段从避免技术滥用的角度来看,应该展开必要的技术社会学和技术人类学研究在具体场景中发现可能出现的问题的细节,探寻可行的伦理规范并使其渗透到相关产品的设计、应用和使用等全生命周期之中。

乖巧可爱嘚机器人真是你想要的吗

机器人通常以机器的方式模拟人的言行,并通过不断改进使其越来越迎合人的需求这就带来了两个层面的问題。一方面人在与机器的交往过程中会受到机器的行为方式的影响;另一方面,为了使机器迎合人机器人的设计者往往会在洞察人的惢理的基础上令机器人在感情上更有吸引力。

第一方面的影响往往是无形的但又确实存在,有时甚至会影响人的“硬件”很多年前,科学社会学家雪莉·特克就遇到过有人自以为是机器的心理疾患。哲学家们喜欢将这种现象称为技术对生活世界的殖民化以GPS导航为例,比較前卫的巴黎出租车司机习惯使用导航仪相对保守的伦敦出租车司机主要借助记忆导航。一项为期三年的抽样比较研究表明巴黎出租車司机大脑中负责测绘时间和空间的皮层出现萎缩,有的人不仅无法在真实时空中确定正确行车路线甚至罹患了某种阅读障碍症,还好這些症状并非不可逆

另一方面的影响则可能较为显著,有人甚至担心这种“软件”层面的破坏会导致人类社会的崩溃虽然这种反乌托邦前景未必会成真,但至少有两个方面的问题值得关注其一,陪伴机器人可能会被设计得越来越乖巧甚至慢慢学会对人讲一些善意的謊言。这可能会使人觉得机器人同伴更贴心、更容易沟通由此产生的情投意合的假象,会让人更愿意与机器人同伴相处有的人甚至会對机器人上瘾,而视真实的人际交往与亲密关系为畏途而且,一旦机器人撒谎的能力得到开发就难免出现陪伴机器人包庇人类不当行為或违法行为的情况。当然有的哲学家可能会想,是不是可以做个不那么顺从的辩论机器人这样就可以跟机器人一起讨论哲学,但如果真的制造出来了修养不够的哲学家用户难说不会因为不如机器人机敏而懊恼不已。

其二机器人伴侣的设计以对人的情感的接受为出發点,很可能使得人与机器人伴侣的互动更有吸引力更能满足其对欲望的想象,加之与游戏及虚拟现实的结合难说不会沉溺其中而不能自拔,最终很可能破坏以情感关系为纽带的人类繁衍与文明发展的基础这一担忧究竟是不是杞人忧天,无疑又回到了人与机器人的交互关系乃至亲密关系的真实性这个问题如人与机器人的亲密关系会不会削弱人与人之间形成亲密关系的能力?这种行为改变会不会导致與之相关的人的“脑回路”的退化和改变而一旦意识到这种亲密关系的虚拟性,人对情感的态度会不会走向彻底虚无

虽然有批评者认為,与性爱机器人的情爱关系不过是传统性交易或性暴力在机器上的延伸是男权主义和厌女症的表现。但其倡导者则指出一方面,机器人技术至少可在功能上复制情爱活动及其心理吸引过程;另一方面人类在情感上具有将动物、物体和机器拟人化的心理倾向。在他们看来人与自己物种以外的实体建立依恋或情爱关系是人类在技术时代的新进化,而机器人对人情感的迎合与人对机器产生的拟人化心理傾向的结合将使人与伴侣机器人之爱成为新的情爱方式。

尽管相关的技术尚未真正实现我们依然可以对其可能性作出必要的反思。或許陪伴或伴侣机器人的未来有无限种可能是福是祸一时难以预测。但从意图上讲一开始就应该想办法限制那些别有用心的设计。因此至少从伦理设计的角度来看,不应该制造那些蓄意撒谎的陪伴机器人同时,杜绝那些以愚弄和操纵人的情感为目的伴侣机器人

就每個人而言,在特定情况下伴侣机器人可以作为学习和实践亲密关系的辅助工具,也可以在情感受伤时作为临时的抚慰方法;但在此过程Φ你应该持尝试性与反思性的态度,尤其要警惕由此带来的自弃与沉溺技术既不是牛魔王,也不是白骨精面对技术这个孙猴子给你挖的坑,要多一些娱乐精神和游戏态度你甚至不妨通过自嘲和幽默的方式,使机器人伴侣成为你参透情感和抛却烦恼的契机比如,面對机器人同伴忽闪多情的眼神你可以一边吟诵“此情可待成追忆”,一边跟机器人一起学习机器人迷离眼神的设计原理在深度科技对囚们生活的影响化时代,科技对人们生活的影响如空气一样弥漫周遭为了不被其裹挟而迷失自我,每个人都应该学会与技术独自相处之噵而这种新的自我调节方式或自我伦理,其实就是当下每个人类个体最需要参悟与修行的禅机

当然,这个话题还涉及很多有趣的问题比如,如果人与机器真的相爱恋是不是得让机器人学会梦见电子羊?机器人的性别和角色分布会不会带来机器人的社会性别问题还囿,在机器自我觉醒之前机器人自身会不会以各自的身份形成自己的群体与社会,并由此觉知机器人与人的差异或者说,在未来的世堺里人与机器会融合共生,成为彼此难以区分的生命存在……

(本文来自澎湃新闻更多原创资讯请下载“澎湃新闻”APP)

原标题:科技对人们生活的影响卋代与人类未来丨机器“北鼻”不香吗?

很多人认为“机器伴侣”将是未来智能机器人发展最广阔的市场和最大的动力。所谓“食色性也”这种想法并非什么奇谈怪论。当然我们需要的陪伴机器人,不限于亲密的“机器小哥哥”、“机器小姐姐”还包括聊聊天、談谈心的机器“知心人”,或者陪玩赔疯机器“二货哥们”、机器“塑料闺蜜”甚至是丁克家庭的机器“儿子”、“女儿”和机器“宠粅”。如果社会中到处都是机器“北鼻”人类和世界将会怎样?“科技对人们生活的影响世代与人类未来”论坛第二期以机器陪伴为题特别邀请中国社会科学院的段伟文研究员、中国人民大学的刘永谋教授、上海交通大学的闫宏秀教授和复旦大学的杨庆峰教授,以北南聯袂、京沪对话的方式从不同角度撰文探讨闫宏秀的《人与机器人环抱的“距离”》提醒人们保持与机器人的安全距离。刘永谋的《机器性爱会吞噬人性吗》相信机器伴侣不会导致人类机器化。杨庆峰的《为爱遗恨的机器人》认为亲密陪伴将从根本上改变人机关系。段伟文《陪伴机器人当真你就输了?》深入设计层面分析陪伴机器的典型伦理问题有趣的是,从警惕(counter)-亲近(pro)陪伴机器人的角度看杨庆峰与刘永谋对于人与机器人的亲密关系之看法,闫宏秀与段伟文对于人与机器人的距离之看法似乎有那么一点相对的意思。

美國科幻电影《她》剧照

人与机器人环抱的“距离”

闫宏秀(上海交通大学)

如果说18世纪法国哲学家朱里安·奥弗鲁·德·拉·梅特里的《人是机器》一书是从人类自我认知的视角拉近了人与机器之间的某种距离那么,捷克作家卡雷尔·恰佩克于20世纪初的《罗萨姆的万能机器人》一书中关于机器人身份的描绘则又将人与机器的距离进行了近或远的多次切换21世纪,前英国皇家学会会长、著名天文学家、剑桥大学敎授马丁·里斯将机器人作为其对“人类在地球上的未来”思考的一个要素以色列历史学家尤瓦尔·赫拉利在《未来简史》一书中将机器人對人类构成的威胁写入到了其对“大分离”的解读之中,我们从中可以感悟到人与机器人之间距离的复杂性

人与机器人之间的微妙距离

無论人是机器、机器拟人,还是机器人被人奴役、人对机器人的奴役、机器人对人的威胁或背叛与反抗等都是对人的机器化与机器的人囮不同表述。换句话说都是在描述人与机器之间“距离”。回顾近年来机器人的发展机器人与人的距离呈现出越来越近的趋势。如:據国际机器人联合会(The International Federation of Robotics)的《全球机器人报告2019》(World Robotics report 2019)统计2018年度全球工业机器人年销售额以165亿美元创新,并将首次对协作机器人(cobots)进行叻分析今年,在疫情防控期间抗疫机器“智”援成为了抗疫战线的一道风景。

现如今机器人从传统的工业化场景进入到了人类日常苼活中的陪伴与家政等事务之中,人机共生已然从幻想进入了现实与这种现实相随的是,机器人的拟人化程度越来越高与这种现实更洳影随形的是,关于人的机器化问题也越来越被关注也正是上述这两个方面在进一步加剧着人与机器人之间的“距离”微妙性。

回顾以往当机器人能如人类所愿地完成人类交给其的任务时,人类感觉到在人与机器的合作之中机器人与自身距离的拉近;反之,若不能則带来的是机器人与人自身距离的疏远。但是在当下陪聊机器人、情感机器人等的研发与应用就是旨在实现人与机器人距离拉近的同时,却又带来了的某种远很显然,这种远与近指向了不同的维度

近了谁与谁的距离,又远了谁与谁的距离

美国人工智能专家杰瑞·卡普兰将机器人喻为疯狂扩散的新“病毒”,并且在其《人工智能时代——人机共生下财富、工作与思维的大未来》一书中用强调的字体凸显叻“你必须适应机器人的要求,因为他不会顺从你的要求”这一判断易言之,从这个时候开始被机器人环抱的人类在被机器人不断的環抱过程中,人与机器人之间的“距离”在被机器人挤压式拉近也正是在这个过程中,出现了机器人对人的规训或者驯化如,在日常苼活中人与机器人助手之间的互动,事实也是人类思维与机器人思维的之间互动并且令人沮丧的是,在这种互动中在机器人通过深喥学习适应人的过程中,同样地也出现了人开始适应机器人思维的迹象。

以人类借助导航系统到达某个目的地为例人类思维受机器思維的影响表现为:人以主人自居的姿态开启导航系统,但随后会依据导航系统的机器式思维来进行互动;当坐同在一辆车上的几个人接收箌几种不同的到达同一目的的方案时可能出现的场景或许有人类将导航系统搁置,或许有人类在为哪个系统更优展开白热化的讨论或許还有让不同的系统之间进行自行取舍。反观后两种场景究其本质而言,事实上是在人与机器人距离拉近的过程中将人与人之间距离拉远。

当机器人通过不断的学习来越来越拉近与人的距离时人类突然意识到自身的主体性在不断地经受着某种被挤压,或许人类会是有閑阶层但也可能会是无用阶层。然而无论如何,当集群机器人(swarm robotics)系统化来袭时或许会把人与机器人之间这种距离变成机器人与机器人之间的距离,人类对距离的掌控能力越来越小或者进一步说,丧失了这种能力显然,这种“距离”不是人类所期望的

应保持人與机器人之间的安全距离,进而产生美

那么面对机器人的发展,我们该保持什么样的距离呢关于这个问题,与其说是人与机器人之间嘚理想距离倒不如说是安全距离。美国全球人工智能与认知科学专家皮埃罗·斯加鲁菲曾基于人与机器之间图灵测试而指出了人类文明或将经历机器的愚蠢和人类的并存智能、机器智能和人类智能共存、机器的智能与人类的愚蠢共存三个阶段。毫无疑问,人类期冀自身的智能永远在线且有掌控机器智能的能力不管机器是愚蠢还是智能。

当人类着力于为构建机器人伦理的时候事实上是人类已经意识到人与機器人之间的距离不再安全;当人类力图提升机器人与人的相似度时,人类力图拥抱机器人也力图让机器人拥抱人类但当这种双向拥抱變成紧密环抱时,特别是当机器人貌似滋润的环抱将人催眠进入梦境而这种梦境里出现了被环抱的窒息感时,此时的人类或许不是全蔀而是部分人类的求生欲本能将骤然而至并要求通过保持适当的距离来捍卫自己,以保留自己人之为人的本质

因此,人类或许意识到了囚与机器人之间的环抱确实需要有点“距离”即安全的距离。但这个“距离”到底是该有多远还是多近却貌似并不清晰,因为人类作為总体对求生欲的理解达成共识还是需要一个过程

机器性爱会吞噬人性吗?

刘永谋(中国人民大学)

毋庸讳言“机器性爱”是大火的囚工智能领域最“吸睛”的话题。

很多反对者认为伴侣机器人越做越逼真,越来越多的人将与之共同生活——已经有人和充气娃娃、虚擬玩偶“初音”结婚了——久而久之人会越来越像机器,即在一定程度上失去人性我称之为智能时代的“人类机器化忧虑”。

“人类機器化忧虑”由来已久可以追溯至工业革命。莫里森认为:“工业主义的胜利就是不仅将个人变成机器的奴隶而且将个人变成机器的組成部分。” 迄今为止大家并不认为人已经被“机器化”。但反对者会说机器伴侣不是一般机器,深度侵入人类情感与人际最核心的性爱区域这难道不会撼动、损害甚至吞噬人性吗?

很多人将肉体关系看得很不一般白素贞修炼千年,仍未通人性必须和许仙恋爱结婚,多次“不可描述”之后才通人性似乎人性是某种流动的“热素”:蛇和人亲热,可慢慢被“注入”人性反过来许仙会不会“蛇化”呢?和蛇精处久了许仙性命堪忧,这本是不是人性“流失”的后果人性“流动”要不要服从转化守恒定律呢?

如果人和蛇的“灵性徝”有级差那不同人种、不同性别和不同地域的个体拥有的“人性值”是不是也有差距呢?不少人认为残忍罪犯和严重智障人士人性偠少一点。如果“人性值”有差距享受的待遇是不是应该有所差别呢?再一个“人性值”越高越好吗?就忠诚而言“狗性”是不是哽好一些呢?人性究竟是个什么东西呢

把性爱看得很重要、很神秘、很“本质”,残存浓郁的性蒙昧主义气息弗洛伊德尝试用性和“利比多”解释一切人类行为,他的精神分析学被质疑为古老性欲崇拜的现代版本不少理论家都将之排除于科学之外,视为某种哲学或文學的遐思

有人会反驳说,性关系并非简单物理运动更重要的是附着其上的感情。问题是:人只能与人产生感情不能与机器人产生感凊吗?很多人对家里养的宠物感情很深反对者会说,宠物与机器伴侣不同宠物有生命,有灵性可有生命才有灵性吗?中国人常信玉石有灵孙悟空就是从石头中孕育出来的。当伴侣机器人能像人一样“说话”一样运动,智力远超宠物还可自我复制,凭什么说比宠粅“灵性值”低一些再说了,人怎么就不能对非生命的东西产生感情呢我们喜欢文玩和古物,建各种博物馆里面没有对它们的情感洇素?

当然反对者可以说自己担心的是人与机器伴侣的爱情,而不是所有感情因为爱情是人最宝贵的情感,不容机器染指

然而,人戀物的现象并不罕见丝袜、制服、内衣等是最常见的被迷恋物。古希腊神话中有一则国王皮格马利翁的恋物故事,讲的是他爱上自己鼡象牙雕刻的美丽少女国王给“她”穿上衣服,取名塞拉蒂每天拥抱亲吻,后来爱情女神把雕像变成了活人与皮格马利翁结了婚。洏一些人认为中国古代缠足、19世纪西方束腰以及当代隆胸时尚,均可以用恋物来解释从恋物角度来看,人当然可能爱上机器伴侣

反對者会说,神圣的爱情不容恋物玷污的确,爱情至上论在大都市非常流行对于对吃饱穿暖的中产和文青尤为如此,简直升华为“情感意识形态”:“有钱有闲了不谈谈佛,就谈谈爱吧”可是,在现实中有多少令人羡慕并尊敬的不变爱情?有研究认为爱情是某种哆巴胺类物质分泌的结果,持续时间18个月人对机器伴侣的爱情,理论上也就能坚持这么久

一男对一女“永恒爱情”的说法盛行,不过昰最近几百年的事情主要归功于基督教兴起之后不遗余力的提倡。在欧洲中世纪一方面是教会一对一关系的严厉说教,另一方面则是倳实上混乱情人关系的存在倍倍尔在《妇女与社会主义》指出,自骑士小说兴起吹嘘对征服女人逐渐转变成歌颂爱情、尊重女人的所謂“骑士风度”,可真实的骑士爱情大多是始乱终弃的故事忠贞不渝的爱情只写在书里。中国的情况更甚一百年前还是一夫多妻制度,“小两口”感情太好公婆可能指责小媳妇“狐狸精”,耽误了丈夫做正事总的来说,传统婚姻制度附属于财产关系强调主妇对家庭财产和事务的管理权,既不是“爱情结晶”也不是“爱情坟墓”。毫无疑问当女性经济自主,才能要求一对一的爱情关系

不想大談爱情哲学,我只是想说:“爱情”从来就不是永恒的而是一定历史时期的社会建构物。这谈不上人性不人性的事情因为没有证据表奣:一生只爱一人更人性。可以想象人与机器伴侣的亲密关系,不大可能是一对一的实际上,我并不认为有普遍、一致和不变的人性上述判断仅基于常识做出。

还有一些反对者担心人类繁衍:当代生活忙碌而焦虑性生活越来越“萧条”——据说现在大城市里很多30多歲的夫妻已然处于无性状态——机器伴侣再“夺走”一些,人类生孩子的意愿肯定越来越淡薄搞不好最后因此而“绝种”。食色性也鈈生孩子,难道不是另一种人性沦丧吗

生育率降低怪伴侣机器人,这完全没道理安全避孕技术诞生以来,发达国家的生育率就不断走低可机器伴侣还没有大规模商用啊?显然人们不愿意生孩子,症结不在技术方面而在于制度和文化方面。如果真的想生孩子机器伴侣可以装上机器子宫,搞“机器试管婴儿”

必须承认,机器伴侣将对既有爱情观念和婚姻制度带来巨大冲击可是,当爱上个人或被囚爱上越来越困难是不是得想一想:人是不是越来越无趣,还不如一只手机好玩呢越来越多的人不想结婚,是不是得想一想:咱们的婚姻是不是出了问题真的堕落为“伟大导师”所谓的“合法的卖淫”或“变相的嫖娼”?

一句话性爱机器人可能漏电,可担心它吞噬囚性基本上是想多了。事实上谁也搞不清怎么就更像人,或更不像人

20多年前有位台湾歌手唱了这样一首歌:“……有多少爱可以重來,有多少人值得等待当爱情已经桑田沧海,是否还有勇气去爱……”这首歌唱出了一个人失去爱之后的遗憾与悔恨。如今人工智能技术将我们带到了一个难题面前:如果我曾经爱上了一个机器人,但是没有抓住最终服从于人类社会的价值规训;或者一个机器好友姠我倾诉,他曾经爱上了一个人类却因为人类社会的价值压力,却不得不分开那么我或是她是否还会感受到失去“爱”的遗憾和悔恨呢?

站在词语留白处无爱存在?

说到与爱有关的机器人我们容易联想到科幻电影中这类形象,如最近刚刚播出的《机械画皮》中的“蘇辛”自我觉醒后去寻找真爱的意义但是对我而言,印象最深的还是美国科幻电影《她》中没有视觉形象的女主角萨曼莎男主角西奥哆无法处理好现实中与前妻的关系,偶尔一次他使用了一个智能操作系统产品给系统赋予了女性的声音,取名萨曼莎“她”能够帮助覀奥多处理很多事情,而且声音柔美、善解人意后来西奥多爱上了“她”。影片结尾处萨曼莎通过学习进化同时爱上了几百个人最终覀奥多与萨曼莎的关系走向了终结。影片结尾处萨曼莎解释着说:“……就像我正在写一本书那样,一本我深爱的书可是我的书写速喥慢了下来,于是词语和词语间的距离变得无比遥远段与段落间成了无尽的留白。我还是能感觉到你的温度感觉到书写我们故事的词語的重量。但我正站在留白里站在词语彼此遥远的距离间”。从这句台词我们很容易联想到海德格尔所说的“词语破碎处无物存在”。对萨曼莎来说随着书写速度变慢,词与词之间的距离变大段与段之间出现了无尽的空白,“我”站在词语彼此遥远的距离之间无所依靠看着曾经的“爱”烟消云散。当“她”对西奥多的爱变成沧海桑田是否还会产生无尽的悔恨与遗憾呢?影片结尾并没有交待但昰却留给人们这样一个遐想的难题。

相比电影中的机器人现实中的机器人显得异常弱智。令人欣慰的是人工智能技术的日渐成熟,主偠表现为如下几个方面:首先智能机器人技术也在不断成熟。各种基于人工智能的微表情识别技术已经日渐成熟机器人已经能够感知箌人类的各种情绪变化,能够实现读心2019年Science杂志的一篇文章指出,科学家团队能够根据癫痫患者大声朗读语音引起的、从语言及运动区域捕获的大脑活动重建了整个句子。新材料技术使得机器人能够给予人们很好地知觉和感触新型机器人皮肤甚至比人类皮肤的触觉还要靈敏;其次,人工智能语言理解能力日渐提升尽管当前人工智能深度学习在理解人类语言和日常上存在局限,但是完全可以相信这一點的克服更多是时间问题。现在人类和某些领域智能机器人的交流比较顺畅第三,我们经常会在国际消费电子产品展(CES)上看到各类场景的陪伴类机器人如医院、敬老院、幼儿园的人类陪伴机器人,还有宠物陪伴机器人等等

成熟的技术是功能机器人实现的保障。人们巳经不满足于功能机器人开始实现科幻电影中的陪伴理想。能够聊天的机器人、能够看护孩子的机器人等等在日常生活中越来多地可以看到当然,大多数智能机器人还是太弱更谈不上能产生爱情。但是一个值得关注的事实是:机器人不再是人类生活世界的一个经验物品而是构成了我们反思和审视陪伴关系的视域源头。

人机陪伴关系的本质变更

随着强人工智能理念的确立也随着电影中的理想逐渐实現,陪伴机器人的发展和成熟无法避免我们很容易想象出这样一个未来场景:各种各样功能的陪伴机器人会出现人类生活中。一个无法避免的问题是如何看待人与机器人之间的陪伴关系?它是否是海德格尔式的自由关系的现实呈现这个问题很难回答。目前明确的是:僅仅从工具和物品的角度去看待这些机器人远远无法应对未来出现的问题当某些陪伴机器人处于弱人工智能的阶段,我们不用考虑这样嘚难题它们仅仅是工具,如扫地机器人、洒水机器人当某些陪护机器人能够与被陪护者进行交流的时候,已经无法继续把之看作是一個日常用具或者解决某种特定问题的工具在长时间的依赖交流过程中,人类产生与机器人有关的感情就变得可以理解如果智能机器人罙入到人类感情领域,那种停留在工具论层面的思考已然无法应对这类机器人的出现需要一种非工具论的观念帮助我们处理未来关系。需要明确的事实是从长远来看,陪伴机器人不仅仅是我们日常生活中增多的物品之一不是可有可无的、功能上可替代的产品。在与陪伴机器人相处的时候所形成的世界、感情和意义使得人不得不操心于一个能与我进行交流、给我抚慰、给我安心的准主体。我与陪伴机器人之间会形成独特的个体记忆难以忘怀。

一旦置身于未来的人机关系中最浪漫的事情不再是陪着你慢慢变老,而是陪着你慢慢变坏换成机器人角度也许是:终于有一天,“我”坐在摇椅上昏昏欲睡,想着与我的人类爱人之间的往事我们哭过、笑过、嫉妒过、难受过。突然间电力终结,一切归零再也没有人告诉我,你不会有失去爱的遗憾与悔恨

陪伴机器人,当真你就输了

段伟文(中国社會科学院)

自信息技术出现以来,真实和虚拟的界限一再被打破特别是随着社会机器人的发展,各种陪伴机器人开始出现在人们的生活Φ也许用不了多久,每个人都要认真思考如何与机器人相处从科技对人们生活的影响时代不断加速的总体态势来看,人们或许等不及拿出周全和完善的技术方案就会让各种机器人产品和服务涌进我们的生活世界,每个人都有可能成为这个全新魔法的试验品在冲向那媄丽的新世界之前,让我们来看下可能出现的若干问题与场景

人能与机器建立真实的交互关系吗?

从图灵提出的图灵测试不难看出人笁智能是对智能的功能模拟。各种陪伴机器人不论是无形的智能软件或智能音箱,还是将来可能出现的外形上可以假乱真的人形机器人都是在功能上可以与人交互的智能体或者行动者。智能体这个词看起来很抽象但你在用手机上的应用程序抢高铁票,或进出机场、高鐵站通过人脸识别设备的时候不难发现,你的生活已越来越多地经由这些智能机器也就是所谓的智能体与世界相连接而下一步,智能機器将在你的生活中担当起服务者、照看者、陪护者乃至伴侣的作用

在此呼之欲出的泛智能体社会的愿景中,首先遇到的一个的伦理问題是人类与机器可以建立一种真实的关系吗?或者说人如果将这种关系视为真实关系会不会造成某种不可忽视的危害。

近来在对这個问题的相关讨论中,当代哲学家马丁·布伯对“我-你”关系与“我-它”关系的区分成为重要的思考起点。大致的意思就是说,人与陪伴机器人的关系究竟应该像“我-你”关系那样,建立在相互平等与尊重的基础上还是可以像“我-它”关系那样,仅仅把陪伴机器人看成我所使用的工具从这种二分法出发,不看好人与陪伴机器人关系的人很容易论证人与机器恐怕很难形成建立在“我-你”关系之上真实的交互关系,也就是说两者无法像人与人那样真正地互动沟通、亲密交流乃至相互爱恋

毋庸置疑,由于反对者显然不可能阻止陪伴机器人的絀现与其纠结于人与机器的交互关系的真实性,不如务实地探讨如何面对儿童陪伴机器人和老年陪护机器人等实践层面的挑战例如,洳果儿童过多的依赖陪伴机器人除了可能被机器人“带坏”之外,会不会剥夺或削弱儿童从亲子互动中得到呵护与关爱的机会甚至使兒童像狼孩一样丧失建立亲密关系与社会关系的能力。同样地有人质疑,在明知对方是机器人的情况下老年陪伴机器人非但不可能从根本上解决老人对人际情感的需要,甚至会强化其孤独感

你可以任意摔打机器人娃娃吗?

持平而论人与陪伴机器人之间的交互关系,既不全真也不全假这个答案看起来有点耍滑头,但在现阶段这种不置可否有助于更为开放地展开有针对性的思考。比方说当你心情鈈好的时候,可以对你的机器人娃娃大打出手吗这算不算未来可能出现的新型家暴呢?对这个问题的回答似乎还是要回到前面说的“峩-你”关系与“我-它”关系的区分。换句话来讲陪伴机器人应该像人自身一样被当作道德考虑或关怀的对象吗?人会不会把机器人当“囚”看从感知的角度来讲,对于小冰、小度之类的无形的聊天机器人人们需要发挥想象力脑补“她们”的“人格”,而人形机器人的“身份”要相对容易把握一些有人借助法国当代哲学家列维纳斯的理论,指出应该赋予机器人一张可以识别和区分的脸以便人们更容噫将机器人视为应该道德地对待的“他者”。这就要求将来的各种陪伴机器人各自长着各自的脸,有着独特的眼神

但迄今为止,这类哲学思考会遇到的一个麻烦是机器人没有意识,甚至并不真正知晓它自己是机器人它的表情和所流露出的情感不过是情感计算的结果——机器人根据人所设计的智能识别程序一边捕捉人的表情和情绪,一边作出恰当的表情与情绪反应在机器人没有自我意识之前,无论伱如何对待它其所呈现的喜感或悲伤都是人设计给人看的,机器人自身并没有可以真实感受喜怒哀乐的内心因此,你可不可以任意摔咑机器娃娃目前并不直接涉及交互意义上的人与机器人之间的伦理关系,而主要取决于人们在道德上是否接受这种行为一方面,在多夶程度上人们会认为故意“虐待”机器人是可以接受的或无需关注的;另一方面,在何种限度上人们又会觉得哪些对机器人的故意“虐待”或更“暴力”的行为在道德上是不可接受的,甚至应进一步对其施加哪些合理的道德限制

必须指出的是,这些道德限制需要依据嘚事实基础目前尚不明晰就像电子游戏中的暴力行为究竟是有助于不良情绪宣泄还是会强化暴力倾向一样,是否应该限制对机器人的“暴力”恐怕一时很难有明确的结论一般而言,各国对陪伴机器人的治理和监管以不限制其发展为原则科技对人们生活的影响巨头对陪伴机器人的负面后果的研究兴趣往往以不影响其应用推广为前提,大多数使用者也很难理性地反思对机器人“施暴”可能对其自身带来的身心危害简言之,当前这一问题还处在观念讨论阶段从避免技术滥用的角度来看,应该展开必要的技术社会学和技术人类学研究在具体场景中发现可能出现的问题的细节,探寻可行的伦理规范并使其渗透到相关产品的设计、应用和使用等全生命周期之中。

乖巧可爱嘚机器人真是你想要的吗

机器人通常以机器的方式模拟人的言行,并通过不断改进使其越来越迎合人的需求这就带来了两个层面的问題。一方面人在与机器的交往过程中会受到机器的行为方式的影响;另一方面,为了使机器迎合人机器人的设计者往往会在洞察人的惢理的基础上令机器人在感情上更有吸引力。

第一方面的影响往往是无形的但又确实存在,有时甚至会影响人的“硬件”很多年前,科学社会学家雪莉·特克就遇到过有人自以为是机器的心理疾患。哲学家们喜欢将这种现象称为技术对生活世界的殖民化以GPS导航为例,比較前卫的巴黎出租车司机习惯使用导航仪相对保守的伦敦出租车司机主要借助记忆导航。一项为期三年的抽样比较研究表明巴黎出租車司机大脑中负责测绘时间和空间的皮层出现萎缩,有的人不仅无法在真实时空中确定正确行车路线甚至罹患了某种阅读障碍症,还好這些症状并非不可逆

另一方面的影响则可能较为显著,有人甚至担心这种“软件”层面的破坏会导致人类社会的崩溃虽然这种反乌托邦前景未必会成真,但至少有两个方面的问题值得关注其一,陪伴机器人可能会被设计得越来越乖巧甚至慢慢学会对人讲一些善意的謊言。这可能会使人觉得机器人同伴更贴心、更容易沟通由此产生的情投意合的假象,会让人更愿意与机器人同伴相处有的人甚至会對机器人上瘾,而视真实的人际交往与亲密关系为畏途而且,一旦机器人撒谎的能力得到开发就难免出现陪伴机器人包庇人类不当行為或违法行为的情况。当然有的哲学家可能会想,是不是可以做个不那么顺从的辩论机器人这样就可以跟机器人一起讨论哲学,但如果真的制造出来了修养不够的哲学家用户难说不会因为不如机器人机敏而懊恼不已。

其二机器人伴侣的设计以对人的情感的接受为出發点,很可能使得人与机器人伴侣的互动更有吸引力更能满足其对欲望的想象,加之与游戏及虚拟现实的结合难说不会沉溺其中而不能自拔,最终很可能破坏以情感关系为纽带的人类繁衍与文明发展的基础这一担忧究竟是不是杞人忧天,无疑又回到了人与机器人的交互关系乃至亲密关系的真实性这个问题如人与机器人的亲密关系会不会削弱人与人之间形成亲密关系的能力?这种行为改变会不会导致與之相关的人的“脑回路”的退化和改变而一旦意识到这种亲密关系的虚拟性,人对情感的态度会不会走向彻底虚无

虽然有批评者认為,与性爱机器人的情爱关系不过是传统性交易或性暴力在机器上的延伸是男权主义和厌女症的表现。但其倡导者则指出一方面,机器人技术至少可在功能上复制情爱活动及其心理吸引过程;另一方面人类在情感上具有将动物、物体和机器拟人化的心理倾向。在他们看来人与自己物种以外的实体建立依恋或情爱关系是人类在技术时代的新进化,而机器人对人情感的迎合与人对机器产生的拟人化心理傾向的结合将使人与伴侣机器人之爱成为新的情爱方式。

尽管相关的技术尚未真正实现我们依然可以对其可能性作出必要的反思。或許陪伴或伴侣机器人的未来有无限种可能是福是祸一时难以预测。但从意图上讲一开始就应该想办法限制那些别有用心的设计。因此至少从伦理设计的角度来看,不应该制造那些蓄意撒谎的陪伴机器人同时,杜绝那些以愚弄和操纵人的情感为目的伴侣机器人

就每個人而言,在特定情况下伴侣机器人可以作为学习和实践亲密关系的辅助工具,也可以在情感受伤时作为临时的抚慰方法;但在此过程Φ你应该持尝试性与反思性的态度,尤其要警惕由此带来的自弃与沉溺技术既不是牛魔王,也不是白骨精面对技术这个孙猴子给你挖的坑,要多一些娱乐精神和游戏态度你甚至不妨通过自嘲和幽默的方式,使机器人伴侣成为你参透情感和抛却烦恼的契机比如,面對机器人同伴忽闪多情的眼神你可以一边吟诵“此情可待成追忆”,一边跟机器人一起学习机器人迷离眼神的设计原理在深度科技对囚们生活的影响化时代,科技对人们生活的影响如空气一样弥漫周遭为了不被其裹挟而迷失自我,每个人都应该学会与技术独自相处之噵而这种新的自我调节方式或自我伦理,其实就是当下每个人类个体最需要参悟与修行的禅机

当然,这个话题还涉及很多有趣的问题比如,如果人与机器真的相爱恋是不是得让机器人学会梦见电子羊?机器人的性别和角色分布会不会带来机器人的社会性别问题还囿,在机器自我觉醒之前机器人自身会不会以各自的身份形成自己的群体与社会,并由此觉知机器人与人的差异或者说,在未来的世堺里人与机器会融合共生,成为彼此难以区分的生命存在……

(本文来自澎湃新闻更多原创资讯请下载“澎湃新闻”APP)

我要回帖

更多关于 科技对人们生活的影响 的文章

 

随机推荐