首页 » 失控的未来 » 失控的未来全文在线阅读

《失控的未来》2028年秋

关灯直达底部

“你想喝点儿什么吗,罗布?”我问道,其实我自己非常想来一杯烈酒。

“不用了,先生,谢谢。”

过去的16年里,这个场景在我的脑海中出现过无数次,我想每一位父亲都幻想过。我女儿梅拉妮的第一个约会对象——至少是第一个来我家里接她的家伙。罗布是一个懂礼貌、相貌英俊的小伙子,他体格健壮,有着淡棕色的皮肤和深邃的蓝眼睛。梅拉妮和她妈妈芭芭拉去楼上收拾东西准备出门。在我俩最初的谈话中,我发现罗布是一位非常有魅力的谈话高手。当我对他问的一些问题做出回应时,他看起来似乎真的很感兴趣,表现得幽默风趣而又不失礼。我能看出来梅拉妮为什么会喜欢他,这也是我一直努力克制自己不表现出反对的原因。

罗布是个机器人。

在罗布拜访的前一晚,梅拉妮才告诉我这个消息。芭芭拉和我一直在追问她有关这个神秘人物的信息,终于,梅拉妮说他要过来了。

哦,对了,他是个机器人。或者用她的话说,是“以肉体形式呈现的自动化智能”。

到2028年,人性化机器人在外形上已经达到了极其先进的水平。只有很少的假动作或特点能让人想起来它是个机器人,“恐怖谷”效应已经不复存在。在大约15年前开始的自动化浪潮中,公司高管们开始用机器人取代劳工,因为他们认为机器能从消费者身上获得独特的市场洞察。

起初,大多数公司机器人长得都很像《超能陆战队6》里十分可爱、圆滚滚的大白。随后,当人们习惯把机器人做成很像人的可爱形象时,开始有公司生产人形的品牌机器人,能够最大限度地契合附近社区消费者的人口统计学数据。在田纳西州的亨德森维尔,华夫饼餐厅的机器人店员长得很像著名歌手凯莉·安德伍德。在布鲁克林的星巴克店里,给人们端拿铁咖啡的帅哥酷似布鲁诺·马尔斯。几年的时间里,机器人设计得到了极大的提升,遍布各地的不再是只有几种版本的男女机器人。公司的算法能把机器人、人及其周围的相关物体联系起来,并预测某个消费者在公众场合想跟哪种界面打交道,然后在消费者的购买过程中,机器人便能呈现出跟消费者的预期别无二致的模样。

在波及范围广泛的自动化浪潮中,我有很多朋友都失去了工作。我也是通过强调自己是个“人类记者”,才勉强保住了作为技术作家的饭碗。刚开始这只是个笑话,但当人类记者开始被人工智能程序取代时,管理层觉得如果有一个人类记者的话,在进行技术方面的报道时,就能够保持客观,这是来自硅谷的机器人记者所不具备的。

直到现在,人们与机器人的直接接触大多停留在购物或像星巴克这样的服务场所的范围内。没错,多年来情色机器人一直保持着强劲的生命力。我有好几次出差的时候都发现,一些比较前卫的宾馆开始将机器人“服务”列入“成人服务”项目中。

但这个机器人却在和我女儿约会。这可是我的梅拉妮。我知道罗布在技术先进程度方面远远超过了苹果手机或智能冰箱,但在他面前,我还是忍不住会产生一种强烈的反感,尽管我非常努力地保持礼貌。我知道他身上装着面部识别和生理感应的追踪装置,能够识别出我的恐惧。我心跳加速、瞳孔扩大,罗布身上的技术能够轻而易举地把这些反应和紧张联系起来。但愿他没有把数据实时传送到他的博客或其他社交渠道上。我都能想到这样的推特标题:女友的父亲因我不是“人”而吓坏了#机器人——种族歧视。

“黑文斯先生。”罗布说道,打断了我的思绪。他的声音降了八度,响亮的男中音让我镇定下来。虽然我能肯定这是他身上的部分程序,但这还是发挥了作用。“我是个机器人,我觉得这让你感觉很奇怪。”

我点点头,听到楼上传来梅拉妮和芭芭拉的笑声。“是的,罗布,不好意思。我一直骄傲地以为自己很开放、能容忍,但我至今还在努力理解你们俩的关系。我觉得我还是有些思想守旧。”我停下来,清清嗓子,想着该说什么,“我想问你父母是否也是这样老派,但我猜你的创造者应该是某种先进的算法,或者是一群二十出头的程序员。”

“爸爸!”梅拉妮站在楼梯上,穿着低胸红色上衣和流行牛仔裤,非常漂亮。“真不敢相信你说了那些话。”她和芭芭拉一起走下楼梯,她拉住了罗布的手,“对不起,罗布。我早跟你说了,他肯定会吓坏的。”

罗布对梅拉妮笑了笑,然后转向我妻子,“你好,黑文斯太太,很高兴能见到你。”

“你好,罗布,”她答道,快速地和他握了握手,然后把两臂交叉在胸前,“很高兴见到你。”芭芭拉的表情就好像她刚刚活吞了一只大黄蜂。

梅拉妮看了看芭芭拉,“妈妈,你也吓坏了吗?你在楼上的时候都还挺好的呢。”

“嗯。是的,我想应该没事。”芭芭拉很不自然地对我笑笑,“或者说,我想我应该是高兴的。”我俩之前已经讨论过在见到罗布时该怎样表现。我俩很想表现出亲切的样子,但事实上这太难了。

“电脑该怎么称呼它的父亲呢?”罗布说道,想打破紧张的沉默,“顺便说下,这只是个笑话。”

梅拉妮转动了下眼睛。芭芭拉和我看着罗布,没有说话。

罗布笑着说道:“Data”(数据),故意发音很像dada(爸爸)。

我想起来这个笑话来自电影《她》,杰昆·菲尼克斯是其中的主演,便大笑起来。“我很爱看那部电影。但斯嘉丽·约翰逊演的人工智能机器人只不过存在于杰昆·菲尼克斯的大脑里。我是说,她的声音是真的,而且随着跟菲尼克斯相处的时间越来越长,她的算法也不断改进,但她并没有你这样的外形。”

“爸爸,”梅拉妮生气地涨红了脸,“你知道你说的是多么私人的话题吗?”

我真的不知道。“私人的?”我看了看罗布,“私人?这个词用到这里合适吗?我是在很认真地问你,我真的很想知道。”

梅拉妮紧紧抓住罗布的手,“你不用回答他的问题。”

“没事,这没什么,梅拉妮。别忘了,我是不会真的感到被冒犯的。如果你爸爸的声音中透露出一丝羞愧的话,这就意味着他是在开玩笑,故意假装不懂,那么我就会表现出被冒犯的特点。”他朝我盯着看,我能看出来他是在判断我的情绪。“但我没有看到羞愧。这对他来说是一次新体验,他有点儿害怕,这很正常。但他的声音有些忧郁,他问的问题也是出于一位父亲对孩子的保护欲。”他看了看梅拉妮,笑着说,“这是因为他的小女儿长大了。不能因为这个责怪他。”

我伸手去抓芭芭拉的手。我没有预料到罗布会说出这么深刻的话。尽管我知道他只是简单地报告对我的扫描数据,但这也太过准确了。的确,我刚刚虽然无意,但行为很冒犯,而罗布对此的反应却那么友善。尽管我知道他的反应是被人设计的,而且他的程序设定了恰当的反应时间,使用的是一种能够精准地激发我们的同情心的声音,但这毫不影响我对他的友善而产生的好感。

一想到我的梅拉妮渐渐长大,我感到有些哽咽,芭芭拉的眼睛也湿润了。不管是哪种计算程序让罗布识别出了身为父母的恐惧,我们都被深深地打动了。

而这让我越发害怕了。

反映我们数字身份的数据

2013年,我参加过一次TEDx讨论会。会上我在演讲开始的时候引用了“我同步故我在”的话。这是根据现代哲学之父勒内·笛卡儿的名言进行改写的。他的原话是“我思故我在”(拉丁文是Cogito, ergo sum),同行评议哲学网站——互联网哲学百科全书对它的定义如下:

不论我的思想正确与否,我在思考的事实本身就表明肯定有一个执行思考行为的主体,即“我”。由此可以推出“我存在”的命题,所以说,我们可以从某些绝对存在的真理信仰中推断出其他绝对真理。

我喜欢笛卡儿的这句格言,因为它非常简洁。尽管我的某些想法可能有些疯狂或偏激,但如果我拥有这些想法并能意识到有这些想法的话,那么我就是存在的。这在真实或物质世界中是讲得通的,因为在这里我们对自己的思想和身份具有能动作用。我说的“能动作用”就是控制的意思。或许你不喜欢我所表达的想法,而且如果这些话不幸对某人造成诽谤的话,我可能还会因此而锒铛入狱,但除非我被麻醉了或者死了,我的思想仍然归我自己所有。我创造了我自己的思想这一事实就是我存在的依据。

我用“同步”一词,指的是一种数据输入过程,这些数据和我们在互联网或其他数字或虚拟世界的身份相关。这还包括他人对该数据的反应,网站上进行轨迹追踪的Ccookie设置即是如此。大多数人谈到数据同步时,脑海里想的只是他们创造的脸谱网帖子、推特文章或者YouTube上的视频,但如今大部分和我们相关的信息记录过程都是在我们日常生活的大背景中完成的。

例如,在高速路上行车时,你会不会使用快易通(E-ZPass)或其他自动收费系统?当你从收费点驶过时,你的行车地点和时间数据都被记录了下来,而且还会通过你的信用卡支付通行费。再举个例子,你有没有惹恼过配备可穿戴情绪监测设备的同事?你的行为或许让他们颇有压力,那么如果你同事把数据拿给你老板看的话,你可能就会被炒鱿鱼。在2013年发表于《卫报》上的一篇文章中,我虚构了一个类似的场景,故事讲的是一名女职工通过追踪经理恃强凌弱的行为,并证明这种行为对其健康产生了不利影响,从而成功地让该经理被解雇。

但时至2014年11月,这种数据责任制就已经变成了现实。对此,凯特·克劳福德在发表于《大西洋月刊》上一篇题为“当活动智能设备成为专业证人”的文章中有所描述。以下引文是其文章的开头:

用可穿戴设备进行自我追踪真的非常令人神往。它可以督促你多多运动,让你反思自己睡得有多么多(或者少),且有助于长期监测你的心情规律。但当你使用可穿戴设备时,也会引起其他的变化,这种变化可能不会立马表现出来:你不再是自我数据的唯一来源了。日子一天天过去,你在无意识中创造的数据也被一点点地记录并保存下来。而如今,这些数据可能会在法庭上被当作对你不利的证据而使用。

可穿戴设备其实就和电脑或手机一样,只不过外形不同而已。如今,在我们买东西的商店,在我们的家用电器中,甚至可能在我们身体里的各种医疗装置上,随处可见这种设备传感器。事实上,你根本没有意识到自己有多么频繁地在进行数据同步,而这恰恰说明了该设备被动收集并悄悄传播信息的本质,这也是其设计的一个初衷。或许在将来的某一天,这些可穿戴设备可能会以私人机器人助手的形式出现,你和你的朋友可能都会有。

或者,还会出现跟你女儿约会的机器人。

回顾:

作为一个非数字实体,你思故你在。你的思想让你与众不同。

作为一个数字实体,你的身份同步与解读需要结合其他无数的行为主体进行。

我把我们生活周围的数据同步称为“人工”智能的一种,因为其设计初衷便是在我们的意识没有参与时对我们的生活进行追踪。以这种方式收集的数据常常都是错误的。我曾参加过一个会议,在一次关于数据代理的讨论中,参会的一位中年白人提到,他曾通过数据代理公司安客诚(Acxiom)获得了自己的个人信息。根据数据显示,他是千禧一代的黑人,现居州也跟其实际居住地不同。

这就是反映我们数字身份的数据的现状。

恐怖谷效应

2009年,迪士尼乐园对其具有代表性的总统馆进行了升级,把贝拉克·奥巴马也囊括其中。你可以在YouTube上看到奥巴马的电子动画演讲视频,该视频采用了真声录音。20世纪70年代,当我还是小孩时,我第一次在奥兰多参观了迪士尼乐园总统馆,亚伯拉罕·林肯的一举一动都显得笨拙而又虚假。而在如今的新一代作品中,迪士尼视频里的奥巴马机器人四肢灵活,从座椅上起身的乔治·华盛顿看起来也活灵活现,这些都让我印象深刻。但当机器人开始说话时,他们的嘴型和话语就对不上了,面部表情也看起来单调而恐怖。小的时候,我知道这些其实都是机器,经常一边嘲笑其僵硬虚假,一边又紧贴着我妈妈,生怕杰拉尔德·福特因为我不赞赏他在展览中的样子而刺瞎我的眼睛。

这种对缺乏完整人性的机器的恐惧和厌恶就是所谓的恐怖谷效应。这个词是1970年由东京工科大学工程学教授森政弘(Masahiro Mori)博士创造的。他还制作了一个著名的图表(出自维基百科)。该图描绘了人类的哪些外形特点能够增强人们对机器人的肯定,以及哪些特点可能会让机器人看起来过于逼真,从而引起人们的反感。

在观看木偶戏时,如果天才表演家能把木偶主角表现得栩栩如生的话,观众也可以感受到恐怖谷效应。当我们观看波士顿动力公司(曾被谷歌收购)设计的机械狗的视频,看到机械狗在山峦起伏的冰原间穿梭而永不落地时,我们也有这样的感受。机械狗没有头的外形令人心生不安,既然它可以看起来这么泰然自若,那也意味着它可以轻易地闯入你的家中,把你杀死在睡梦中。

以上这些玩笑话只能稍稍遮掩几分恐怖谷这个概念所隐含的那种恐惧,尤其在谈到机器人掌控我们的生活这个问题时,就更难掩盖了。根据印第安纳大学的卡尔·F·麦克多曼教授的说法,我们在这些场景中所体验到的恐惧是对人类必死命运的“动物性暗示”,克里斯·韦勒在《医学日报》上也曾对此有过报道。作为人类,我们必然是要面临死亡的,而总统馆里的机器人只需要保养就可以一直存在。

对虚拟关系的严重依赖

在我有生之年,我们对技术的依赖大大增强,甚至到了我时不时会在互联网面前感到怅然若失的地步。我的家乡新泽西州曾受到超级风暴“桑迪”的重创,100多人在这场灾难中丧生,超过800万户家庭断电。冬天最冷的时候,我家断了大半个星期的电,我们只得挤在移动取暖器周围,供电的发电机是从姐夫家借来的。风暴来袭时正值万圣节期间,所以整个城市把假期往后推迟了,孩子们可以在11月初玩万圣节“不给糖就捣蛋”的游戏。

那一晚过得跟做梦似的。一方面,风暴让人与人之间变得更加友善。在孩子们通过诉说自己在风暴中的遭遇,利用家里断电和受到的损失博得同情,以此来获得糖果的同时,我和很多家长也得以闲聊,互相交换到哪里去加油的信息,因为去当地的加油站都要等上好几个小时。

另一方面,那晚明显有一种恐慌的气氛。每隔四五条街便有一个发电机在工作,嗡嗡声不绝于耳,触手般的电源线从破碎的窗子里蜿蜒着伸出来,把这种恐慌气氛烘托得更加强烈。整个城区已经断电好几天了,没有发电机的人开始羡慕有发电机的人。发电机有起火的危险,所以必须得放在户外。我们那里发生了好几起发电机偷盗案件,所以我用车锁把我们的发电机锁在了栅栏上。杂货店里就跟《蝇王》里的情景一样,人们开始贮存瓶装水、罐装食品等必需食品。当图书馆恢复了通电,而城里大多数人家里都还没电时,人们一窝蜂地涌进去给自己的电脑、苹果手机和黑莓手机充电,这简直就跟沙漠中的水泉一样重要。而其中颇具讽刺意味的是,这个致力于公共教育的机构在没有发放一本书的情况下,满足了我们对信息的渴求。

这些场景之所以让我记忆深刻,是出于以下原因。第一,当时的情况非常令人不安。镇上我认识的每一个人家里都遭受了至少几百或几千美元的损失,而即便这样,我们还是其中的幸运儿。在泽西海岸,很多人在风暴中丧生,很多社区的人全都没了房子、店铺及生计。

第二,我发现,在危机时刻身为父母的人是多么容易就变得自私起来。尽管我们主动提出要为邻居提供一些帮助,例如用我们的发电机给他们的设备充电,但我感受到了一种异乎寻常的冲动,我想要保护妻子和孩子不受风暴及其余波的影响。虽然我外在的表现还是很文明优雅,但自私的冲动却占据了我大部分的内心活动。

此外,超级风暴“桑迪”也让镇上的很多人第一次意识到了环境危机。那一周,我们的谈话大多围绕着全球变暖或基础设施抵御灾害能力不足带来的危险等话题展开。在这场风暴中,曼哈顿地铁站遭遇洪水袭击,便是这种危险的例证。我们还清楚地看到,很多人都忘记了重要的电话号码,因为我们已经习惯了把号码记在手机通讯录里。我们对技术的依赖让我们忽略了这些关键信息。

但我是在图书馆的时候才强烈地感受到,我们对虚拟关系的依赖有多么严重。作为一个信息渠道,脸谱网在风暴中发挥了无可比拟的作用。短信成为快速更新加油站关门信息、向保险公司发送风暴损失照片等行动的最重要的手段。尽管在风暴期间,市民之间的亲密度有所提升,但我们花在网络社区进行与风暴相关的广播的时间,远远超过了我们实际帮助邻居所花的时间。我不太确定这些行为是否是某种应对机制,是否具有上瘾特质,或者只是一种新现状。尽管对技术的依赖不是一种新的行为,但在断电的黑暗中淋漓尽致地表现了出来。

接受人类终将与机器结合的事实

我不想成为一个生活在恐惧中的人。我非常有幸拥有一位很了不起的妻子和一个幸福的家庭,还有给我的生活带来意义的工作。我没什么好抱怨的。然而我总是能感受到很多人感受不到的情感,这让我成了一名演员和作家。我的工作就是观察人,然后把我所看到的东西忠实地表达出来。近来,当我开始观察技术方面的问题时,我感到更多的是忧虑,而不是高兴。作为一名技术作家,我比大多数人更了解先进机器的好处。但我对自己的人性情有独钟,而且我依然在努力跟宣扬人类终将被机器所代替的技术决定论做斗争。2014年4月我曾在Mashable网站上发表过一篇文章,题目为“接受人类终将与机器结合的事实”,我在文中是这样描述的:

在对人工智能领域进行了如此多的研究之后,我仍然在十字路口徘徊。我为某些创新由衷地感到兴奋,但也习惯了把自己的痛苦当作个人成长的关键。如今,算法变得如此先进,以至于人们可能再也没有时间形成自己最纯真的偏好,这是我难以接受的。这就好像我们已经到了某个阶段,即当我们审视自己时,却发现问题不只是我们不了解自己,而是我们无法了解自己。这依然会让我感到深深的失落,人性是我尚未准备好放弃的东西。

我们都必须认真对待自己的道德观。或者,至少应该尝试去认真对待,哪怕这只不过是让我们更好地去体验我们所剩不多的时间而已。为了做到这一点,我们需要把生活中的屏幕统统关掉,好好地思考一下我们到底是谁。

互联网广告的恐怖谷

森政弘的恐怖谷理论的实际意义和后续影响在他给机器人或其他相关产品设计者所提出的建议中有所体现。他提议,可接受度的第一个峰值是设计可追求的有效目标之一。在这里,可接受度数值相对较高,且与恐怖谷保持着相对安全的距离。对现实主义的追逐终将导致跌进恐怖谷的灾难性风险。

这段引文来自题为“寻找恐怖谷”的一篇文章,作者是格拉斯哥大学心理学系的弗兰克·E·波利克。这成了私下里从事人工智能开发工作的人们的格言。它并不只是为了避免发明出太像人的机器人而令人惊恐。它更多地是要人们在人工智能的工作中,最大限度地追求“可接受度的高数值”。

这和广告业中的个性化定位理念是同样的道理。通过利用网页浏览记录、邮件和手机追踪等手段,我们能看到的推送广告都是建立在多重算法对我们生活的分析的基础之上的。现在,我们大多数人都能理解这种逻辑关系:你给新出生的侄子买一次纸尿裤,然后在接下来的两周都会看到帮宝适的广告,尽管你自己的孩子早已经长大成人了。《石板》杂志专栏作家法尔哈德·曼约奥曾在文章“互联网广告的恐怖谷”中写道:“如今的网络广告对我们的了解不够充分,不能避免一直向你推送那些你永远也不会买的东西。但话说回来,他们确实对你了解得足够多,不管你做什么,都总有一种被监视的感觉。”

然而,意识到广告商在监视我们,这还只是一种暂时的状态。在爱德华·斯诺登的揭露下,数据隐私问题成了时代热门话题,也让我们的这种意识得到放大。虽然我们知道自己失去了对个人数据的控制力,但是我们依然缺乏尝试保护它的动力。如今,各公司利用我们的这种倦怠心理,让我们签订暗藏诡计的条款与条件,以达到其利用或出售我们个人数据的目的,这已经成为行业默认的规则。这种趋势愈演愈烈,甚至在不久前《华盛顿邮报》报道的一项实验中,有6名伦敦人通过同意一家虚构公司“条款与条件”中的“希律条款”(Herod clause),放弃了对其第一个孩子的永久所有权,以换取免费的Wi-Fi服务。

我们对揭露定义我们数字生活的算法缺乏热情,为此,我们是要付出代价的。很快,我们就不会因为收到无关的推送广告而感到恼怒了,而是会在广告看起来更加精准的时候而忍不住吃惊地多看两眼。目标定位将会变得细致入微,足以避免“跌进恐怖谷”的风险,而且我们也将失去能够意识到广告的最后时机。当人们开始公开与我们互动时,应用于电脑和手机设备中同样的技术也将在增强现实及虚拟世界中出现。正如摸清意图就会在情感上激发我们的购买行为,将来我们的意图和行为(比如在约会中)也会通过微软全息透镜或其他类似技术而被塑造。如果你想要直观感受一下这将是什么情形的话,你可以观看Vimeo视频网站上的短片《视线》。在该短片中,一名男子利用其约会对象的公开信息,并在她身上使用传感技术,试图骗她上床。该短片清晰地展现了未来基于操纵目的的目标定位非常可怕的面目。

正如我在引言部分提到的那样,人与机器尚不明朗的结合正决定着人类将来的幸福。广告恐怖谷效应是对我们未来幸福的最大威胁之一。从本质上来说,作为人类,我们并不是总能认识到哪些东西对我们的生活最有好处。我们可能做出糟糕的约会决定,或者选择一份让我们感到痛苦的工作。但是,我们能从自己的错误和行为中吸取教训,这让我们变得更成熟,也更好地定义了我们的幸福。正如积极心理学所表明的那样,具有持久影响作用的,并不是伴随愉悦快感(情绪正向峰值)而快速产生的多巴胺。内在幸福感是在具有挑战性行为的框架中累积形成的。正是通过这些挑战,我们才得以真正细致地了解自己的内心。

在数字行为中,人们还有自己不愿意承认的生活隐私。尽管我们可以通过社交媒体包装自己的数字身份,但搜索记录不会撒谎。如果一个人正忍受抑郁症的折磨,而最先对此做出反应的却是广告商的算法程序,这看起来是否妥当?对于抑郁症患者,我情愿他接触“学生生活”这样的应用程序[该程序是由达特茅斯大学的安德鲁·坎贝尔(Andrew Campbell)发明的],也不愿他被广告盯上。该应用程序的算法设计宗旨是为了测量一个人的通话、短信、睡眠模式和谈话等信息。根据针对学生进行的一项选择性实验,该应用程序背后所使用的技术和在线精准定向广告颇为类似,但前者的设计目的是为了按照诊断结果治疗抑郁症,而不是促进药物的销售。

除非我们能控制有关自己生活的数据,否则我们就得承受提心吊胆的折磨。在一篇发表于《大西洋月刊》的题为“数据幽灵与个人化恐怖谷效应”的文章中,萨拉·M·沃森(Sara M. Watson)描述了她朋友同样的担忧,指出:“我一直都不太确定脸谱网的广告算法是否对我真的一无所知,又或者它对我的了解比我自己愿意承认的还要多。”

决定我们在虚拟世界幸福与否的经济学掌控在广告算法和数据代理商的手中。如果这种经济模式不被推翻,我们就必须承认它比我们更了解我们自己。

自然与人工的界限

我们现在正处于人类身份的定义方法不断变化的过程之中。自然与人工之间的区分不再那么明显。人类的生活正在不断超越自然世界。

科林·马尔雄是纽约大学艺术学院电影电视制作专业的一名学生。当他为了自己的纪录片《我们的技术身份危机》而主动采访我的时候,我才开始对他的研究有所了解。在我为Mashable网站撰文时,我曾对他进行过采访,前面的引文就出自那篇文章。从我们的对话中,我学到了很多,特别是他让我认识到对他这个年纪(25岁)的人来说,人与技术完全结合的想法并不陌生,因为他们就是在互联网中长大的。科林从7岁就开始在聊天室聊天,和别人建立起虚拟关系,就跟今天我们在脸谱网上进行的活动差不多。

寻找虚拟亲密关系的想法促使科林开始对日本出现的一种流行趋势进行研究。对此,他在我们的采访中也有谈到。目前,日本有很多年轻男子在“爱相随”(LovePlus)等流行电子游戏中结交了数字女友。以下为科林在采访中对该趋势的解释:

情侣关系真的跟参与对象没有太大关系,重要的是情侣关系本身在我们自己身上所产生的影响。这些男子把游戏人物当成女友。她们存在于电脑中这一事实并没什么要紧的——重要的是,她能让他感到快乐,而她本人是生物体还是技术就不那么重要了。他已经获得了他想从情侣关系中获得的东西。

人们很容易对这些男子妄加评论,并为他们找不到“真正的”女友而感到难过。但正如科林指出的,如果他们在这种关系中能获得真正的快乐,即便我们觉得其行为值得惋惜,我们又能给他们指出什么出路呢?夺走他们的设备?删掉他们的女友?要知道,自美国最高法院宣布“企业也是人”开始,在今后多年里,我们将一步步地进入面临伦理、经济和法律挑战的时代。例如,如果一个人想要和电子游戏中的人物结婚,并为其虚拟配偶索要合法身份地位时,我们凭什么阻止他呢?

这已有先例可循。2009年,日本一位年轻男子娶了“爱相随”里的女友,举行了史无前例的“人和电子游戏的婚礼”。尽管“BoingBoing”(一个综合博客网站)记者对故事的报道更多地把它当成一种表演艺术,而不是真事,但我们却很难说这个婚礼是假的。观看视频的话,很难看出来新郎是否严肃对待这场婚礼。但有一点是毋庸置疑的,即他和他的朋友为这场人与机器的婚礼投入了大量的精力。这名记者还写道,在举行婚礼前,新郎特意与其他所有虚拟女友分手,只保留了未婚妻。如果这是真的的话,那这真可谓是跨越真实与虚拟世界的耐人寻味的道德演化的明证。如果一个人对他的虚拟配偶“不忠”的话,会有什么要紧吗?如果新郎真的出轨的话,他的这些行为会对其在电子游戏或现实生活中的声誉产生什么影响?

在我的上一本书《入侵未来》中,我对“基于责任的影响力”进行了论述,我最早对这一概念进行研究是在2011年为Mashable网站撰写的“为何社会责任会成为网络新货币”一文中。我想测量一下我们在数字或虚拟世界留下的行为踪迹会在多大程度上反映出我们的整体身份和人格。像亿贝(eBay)这样的公司都很推崇卖家评分的做法,即让从陌生卖家那里买东西的人对其客户体验进行打分。评分依据为卖家对自己责任履行的表现。他们的发货速度快吗?货品状况是否和卖家承诺的一致?在一个社区群体里,信任的界限更加明晰,而卖家的输赢则取决于买家对他的评价。

这种评分机制被许多属于“共享经济”行业领域的公司所采纳。空中食宿(Airbnb)公司便是其中最有名的例子。这家公司可让人们放心地把房子租给旅行者。租客租住私人房间或房屋,而不是住旅馆,然后根据自身体验进行评分。尽管众口不一,空中食宿还是为租客制定了一套评分指南。正如其网站上标注的那样,该指南注重“自由言论、公开透明和清楚沟通”的原则。它要求评分者实事求是,提供“能帮助社区更好决策,且对相关房东或租客有教育意义”的建设性信息。意思是说,空中食宿社区是在促使每个人承担责任。房子或许非常不错,而且位于一座非常美丽的城市,但如果房东对租客不好的话,其行为就会在评分中有所体现。同样,备受欢迎与争议的优步(Uber)租车服务公司也让司机对乘客进行评分,从而让司机们有权决定是否接送得到过差评的粗鲁的、不守规矩的乘客。

这就是“基于责任的影响力”的核心概念。在信任社区里,我们的行为反映了我们的人格。尽管我们可以在推特等社交网站上对自己进行包装,但人们会对我们的行为产生何种反应不仅仅取决于我们所说的话。这种责任给我们提供了一面透明的镜子,可让我们重复某些行为,或改变我们觉得不能反应真实自我的一些行为。正是各种各样的信任框架所具有的透明度使我们拥有成长的空间。正是这些与我们的行为相关的细节信息为我们提供了有深度的洞察,使我们能够增强自己的幸福感。

每一次同步都是一次沉沦

恐怖谷效应给我们提供了一个独一无二的机会,让我们对自己必然死亡的命运以及与技术的关系进行深刻反思。上文有关罗布的故事片段已对此有所涉及,但我仍然在思索人们是否会愿意和长相跟名人一样的机器人约会。如果很多人都和酷似同一个名人的机器人约会的话,会不会很奇怪?对于曾当过演员的我来说,我也想知道这些名人会不会因此得到额外的酬金,即因其相貌被用于商业用途而获得报酬。如果真可以的话,那丹泽尔·华盛顿可就要发大财了。

另外,我也想知道我的子孙该如何应对充斥着算法与机器人的约会大环境。诸如eHarmony(美国一家大型婚恋网站)等的社交网站已然极度流行,而且它们对大数据的利用程度比许多技术公司还要高。浪漫已经成为某种方程式了吗?还要多久人们就会跳过媒人牵线搭桥的过程,而选择直接把某种个性化算法植入或风度翩翩、或美丽动人的机器人框架中呢?

这些都是我们作为个人需要面对的问题。但在广告恐怖谷效应方面,我们需要立场一致,呼吁个人数字身份的透明。不管我们选择哪条道路,做决策的时机都是转瞬即逝的。算法的发展速度异常迅猛,广告恐怖谷效应很快就会消失。届时,我们的思想便不再属于我们,我们的意图也要由他人定义。每一次同步,都意味着一次沦陷。

本章主要观点总结如下:

我们的幸福感正在由我们被追踪的方式决定。面对这个问题,我们有两种选择:

继续利用现今充满侵略性的秘密监控模式。算法和数据代理商对我们的了解比我们自己还要多。对我们的快乐或幸福的衡量,仅仅局限于我们线上线下的购买行为。

创造一个以信任环境为特点的新模型,在这种环境下,所有的交易方都要为自己的行为负责。每个人都有接触个人数据的透明权利,每个人都有权对其幸福进行反思。在这样的环境下,商业发展蒸蒸日上。

广告恐怖谷效应不会持续很久。随着优先算法的不断改进,如果我们继续沿着当前道路前行的话,我们终将看不到公司对我们生活追踪的痕迹。就如同我们已经放弃了对个人数据的控制一样,我们也将失去理解别人如何操纵并影响我们的幸福的逻辑能力。

基于责任的影响力将能提供技术上的透明。不论我们喜欢与否,我们被追踪的行为都会以我们从未体验过的方式,传送到我们生活中的其他人那里。这种暴露会激励个人更好地控制个人数据,同时也让人们有机会在技术的血雨腥风中更深刻地进行自我反省。