一个方程式就可以总结出,为什么维纳的书这么可怕:
图灵摩尔定律×(巴甫洛夫、华生、斯金纳)= 僵尸启示录
第二次世界大战刚开始就给人们留下了恐惧感,人们担心人类的能动性可能会受到技术的威胁。纳粹利用电影宣传等新技术,在发明工业化版本种族灭绝时招揽了一大批追随者。在这样的阴霾中,我的母亲就像是一个微小的像素,一个本来无法存在的幸存者。
战后,每个人都感到迷茫,这到底是怎么发生的?还会再发生吗?我们能在最开始发现它吗?发现之后又该怎么办?
战后的人们担心思想被控制。伊万·巴甫洛夫(Ivan Pavlov)、约翰·B. 华生(John B. Watson)和B. F. 斯金纳(B. F. Skinner)这样的心理学家已经表示,可以利用受控反馈来改变行为。威廉·巴勒斯(William Burroughs)、托马斯·品钦和菲利普·K.迪克的作品被视为赛博朋克流派的代表,常常带有现代偏执的黑暗金属风格,而大部分现代科幻小说也具备这一风格。这一切都是从一些科学家向惶恐的普通人炫耀实验室权力开始的。
最初的一些行为主义者处处透露着嚣张气焰,好像他们有权宣布怎样在实验室或社会中设计其他人一样。他们还带有极权主义倾向,好像除了行为主义,了解人类的其他任何方法都无关紧要。
巴甫洛夫就是在狗吃东西时摇铃的那个人,他证明了只用铃铛就能让狗流口水。华生进行了残忍的“小艾伯特”实验。当动物出现在婴儿周围时,他就会吓唬这个婴儿,他证明了可以让人类永远害怕动物。斯金纳则设计了一个实验盒子,在实验室中了解动物的条件反射。
流行文化中的行为主义已经沦落为一些小玩意儿了。就算是美国总统,你也可以发推文请客,以此引起人们的注意。当听到“狗哨”时,你马上就会“流口水”。斯金纳盒子就是一个原型。在斯金纳盒子里的人会有一种掌控一切的错觉,但实际上是他被盒子控制,或是被盒子背后的人控制。
关键区分必不可少,而正确区分并不容易。我曾经被行为主义者的文化所排斥,虽然它并不是属于实用科学的行为主义本身。过去我考虑用训练山羊来证明行为主义的有用性,但在今天,我可能会提出认知行为疗法。
我大学时痴迷于研究怎样划分实用科学和恐怖的权力炫耀。我的大脑飞速运转,彻夜不眠。“我们需要科学来生存,而且科学本身富有美感。但科学家可能是怪胎,由怪胎编排和驱动的科学可能造成可怕的伤害。如果我们不够好,配不上科学,我们又怎么能研究科学呢?”
行为主义让我感到最沮丧的地方就是它包裹着反人类的感觉,通过残忍的实验哗众取宠。你可以使用任何技术来设计新形式的残酷实验,但这又是为什么呢?
行为主义并不是偏执的唯一来源。遗传学是有用的、有效的,但遗传学家有时会转而支持反人类的邪恶乌托邦思想。对被杀害的我的家人,被囚禁和折磨的我的母亲,以及千千万万和他们一样的受害者来说,有些科学家也是帮凶。
如果你想感受我最开始学习计算机科学时的那种偏执精神,我推荐你观看原版电影《满洲候选人》(The Manchurian Candidate)。影片中,一名美国士兵被洗脑,而洗脑不是通过宣传、斯德哥尔摩综合征或任何其他人类交互范围内的诡计实现的,而是通过残酷的算法、无菌刺激和反馈实现的。《发条橙》(A Clockwork Orange)以及许多其他小说和电影,也描绘了像斯金纳一样的心灵黑客。
试想,你就像是游戏里的人物一样,某个蠢货可能正在操控你,而你毫无所知,这种感觉是不是糟糕透顶?
从第二次世界大战后到世纪之交,这段时期的电影和小说往往是关于这样一个主题:催眠或一种假设的“真话血清”将用于控制人类。这不仅仅是电影情节!实际上,美国中情局在人们不知情或未同意的情况下,给人们服用致幻剂(LSD),观察它是否会促进精神控制。
维纳推测,计算机可能强大到以更有效、更难探测、更加恐怖的方式运行更完美的斯金纳盒子。仔细解读斯金纳,你就会明显地认识到,只要有足够好的传感器、足够好的算法和足够好的感官反馈,就可以在清醒的人们不知情的情况下,把斯金纳盒子安置在他们附近。维纳同时指出,要搭建巨大的计算设施和通信网络十分困难,因此,这种危险只是理论上的——这让读者松了一口气。