这不是说看不见的手总是比假想的AI更有用,也不是相反。人们必须停止期望任何现有的“人造神”会变得完美,我会更明确地把这些“人造神”定义为多人组织系统。
我们的信息时代喜欢像计算机一样善于思考的人,这种思维模式并不是这个时代才有的。它一直存在,全身心地投入某一系统、某个程序中,就像之前去寻找社会主义天堂、绝对神权,或者是无人纳税但社会仍旧运行的纯粹自由主义空中花园。如果你能像计算机程序一样思考,你就可以通过现在掌控世界的计算机程序挣到大钱。
为了生存,人类还必须支持那些从模棱两可的境况中成长起来,没有向单一的社会组织原则宣誓的人。宗教、市场、政治、云算法、社会、法律、群体认同、国家、教育,我们需要所有这些系统,但它们没有一个是完美的。用工程师的话来说,所有这些系统都有故障模式。作为一个物种,我们能够成功的唯一方法就是用看待汽车或冰箱的方式来看待这些系统。即使是那些最可靠的系统,即使是我们的云算法!让我们时不时平静下来。纯粹主义者会很难接受这一点。
如果商业有一天胜过算法,正如我说的那样,我们的系统之间也可以提出和探索其他的制衡办法。仅仅因为算法是大系统中最新出现的,并不意味着其他系统就要突然停止。
有些专家一直在说,AI将能够在三分钟之内摧毁所有其他系统,如果你能比那些普通人、非技术人员更了解我们即将到来的厄运,就会发现我们别无选择,只能享受这一感觉优越的时刻。但这是在放弃自己的责任,尤其是作为工程师的责任。
我们有很好的系统可以利用。如果我们不摒弃前人留给我们的价值,就可以建立一个有尊严的、可持续的高科技社会,使其成为发射台,开启我们难以想象的旅程,但我们这些工程师可能必须学会谦逊一些,才能做到这一点。
我在最后几页内容中一直十分小心,不去设想AI成“真”,成为深度通用的智能,或者拥有自己的意识。对包括我在内的一些人来说,有意识的就是真的。无论在可预见的未来中,AI将继续依赖来自人类的大数据,还是开始使用少量的数据,变得更加“独立”,上述论断仍旧成立。
例如,即使AI不像现在这样依赖大数据,用小额支付替代基本收入模型,仍然不失为一个可持续的、创造性的和有尊严的做法。
即使人们普遍同意AI应该在未来“承担所有的工作”,AI算法仍然需要搜集人们的数据,为人们服务,除非人类变得十分乏味,可以预测,或者已经决定大规模自杀。所以,即使你是个书呆子,等着计算机不用糅合人类作家的措辞,就为你写出一本理想的书,你也可以获得报酬,因为从你这里搜集的数据优化了为你写作的算法。在这个交易中,会有社会的权力和财富的分配和至少一点点尊严的来源。
我知道,反对者会说计算机只会带来人类的灭亡。我听到这个普遍反驳时,会想起在小湘菜馆,我让我的朋友想想在喷火坦克里的豚鼠。你可以把互联网看作有生命的,你可以把美国混乱的总统选举解读为互联网开始清理人类。没有超自然的警察会从天而降斥责你。但是,认为人类有责任,是唯一给我们机会承担责任的解读方式。
不要把本书看作对时髦的未来主义的保守或传统的反对,这样想是错的。在未来主义的对抗赛中,我通常都能比其他未来主义者更超前。
我的未来主义是真实的,而目前很多未来主义都是虚假的。要求与过去完全决裂的、单一的,或者由AI掌控的未来是虚假未来主义。与过去决裂只意味着重新开始,它使我们变得原始。事实上,我们已经证明自己可以在网上变得肤浅。也许我们可以使自己足够肤浅,这样算法相比之下就会特别聪明。
附录一结尾提出的“麦克卢汉之路”只是一种至少和AI至上主义一样丰富多彩的未来设想,但“麦克卢汉之路”是在真正地展望未来,而不是倒退回过去。
假装我们已经了解未知的科学,这样的未来主义也是虚假的。如果有人假装我们已经知道关于大脑如何工作的一切重要信息,他就是个假未来主义者。这实际上表明,他正深深地陷入了当下的理念中。
即使有人设想AI在不久的将来必定只需要少量的数据,不会再大量窃取数据,我还是会感到沮丧。
如果你听过我为学生做的演讲,你可能会听到我提醒他们注意本书之前提到的一个例子:在19世纪末,人们曾自信地宣告物理学已经终结,结果20世纪出现了广义相对论和量子场理论,而且这些理论互不相容,所以我们知道了物理学还没有终结。我告诉学生,科学会推赶着你。如果你不能承认未知的存在,就无法成为科学家。
我们的命运取决于目前科学还无法解释的人类特性,如常识、善良、理性思考和创造力。虽然AI幻想认为我们将随时实现智能自动化,我们能否至少同意,目前的系统还只能利用,而无法生成这些特性?
我们的时代所面临的问题是,我们能否透过充满诱惑的信息系统诚实地看清我们自己和我们的世界?在科技文化认为有必要质疑我们最珍视的神话,将我们从混乱中解救出来之前,事情还要变得多么糟糕?
[1] 在大型互联网计算机运行一切的时代,尽管在美国只有精英阶层的财富上升,发展中国家的赤贫人口却在大大减少。虽然我不建议用数字技术解释一切,但这一成果似乎与廉价手机中云连接的小工具有关。有种假设可以解释为什么普通人在这种情况下会比其他情况下更好:使用低端手机发短信和打电话的人是市场的一等参与者,这意味着他们从个人角度寻求机会,而不是按照中央算法的指示行事。另一个例子是,在巨型互联网公司崛起之前,个人计算机使小企业获得了更多利润,而现在,这些小企业普遍停滞发展。我们的算法时代正在重演计划经济的谬误。
[2] 要记住,科技不是我们这个时代唯一的力量(比如,还有部落主义),但科技是最普遍乐观的力量,所以科技会产生夸大的影响。
[3] 非奥威尔式话语成为主流。
[4] https://www.thedailybeast.com/articles/2016/09/22/palmer-luckey-the-facebook-billionaire-secretly-funding-trump-s-meme-machine.html.
[5] 为什么会有人花大量的钱资助已经得到资助的活动(之后会证明)?正如本书其他例子所述,即使是很少的钱也会引发混乱。这个例子也证明了即使是圈里人也在寻找出路,网络世界纷繁复杂,没有人能看清全局。奇怪的新现状是,几乎没有人有隐私,没有人知道发生了什么。
[6] https://www.hollywoodreporter.com/news/steve-bannon-trump-tower-interview-trumps-strategist-plots-new-political-movement-948747.
[7] 我在本书第19章“宗教的诞生”一节中描述过这一点。奈飞利用AI建议创造出可选项比实际上多很多的幻觉。
[8] https://www.buzzfeed.com/craigsilverman/how-macedonia-became-a-global-hub-for-pro-trump-misinfo?utm_term=.ghOlzDWAQ#.jj3XrKoY0.
[9] 这里还存在人口统计学的差异。上了年纪的美国人明显花费大量的时间看电视,在这种情况下,电视扮演的是门户的角色,而非说服者。我的观点聚焦于年青一代,他们花更多的时间在云连接的小玩意儿上。
[10] https://www.washingtonpost.com/news/the-intersect/wp/2016/11/17/facebook-fake-news-writer-i-think-donald-trump-is-in-the-white-house-because-of-me/.
[11] 杰伦·拉尼尔的《互联网冲击》一书简体中文版已由中信出版社于2014年5月出版。——编者注