2014年11月，时年43岁的特斯拉汽车和太空探索技术公司首席执行官埃隆·马斯克在未来学网站Edge.org上发出一条在线评论。“人工智能的进步……快得出人意料，”他写道，“除非你直接接触DeepMind这样的团队，否则你根本不知道这种步伐有多快，人工智能正在以近乎指数级的速度增长。未来5年就有可能发生一些非常危险的事情，最多不会超过10年。我并不是在对着我不懂的事情高喊‘狼来了’，也不是只有我一个人在考虑我们应该警惕起来。领先的人工智能公司已经在大力采取措施确保安全。它们意识到了危险，但它们是否可以规划和控制数字超级智能，并能够阻止恶意智能逃进互联网，这一点还有待证实……”
几分钟之后，他删除了这条消息。马斯克有很多特点，而且许多特点都很不错，而这些特点中绝对不包括孤陋寡闻。过去几年间，他领导的这家电动汽车企业对多家机器智能公司进行了投资，包括上文提及的DeepMind，这是一家深度学习公司，在前面章节已经介绍过它的工作内容。马斯克个人资产净值约为112亿美元，他说，他对人工智能进行投资不是为了获得投资回报，而是为了获得消息。“我喜欢密切注意人工智能的发展进程，”他对美国CNBC（全球性财经有线电视卫星新闻台）如是说道，“我认为人工智能可能会造成比较危险的后果。”
埃隆·马斯克并非唯一担心制造会思考的机器可能会造成尚不为人所知的危险的人。著名物理学家斯蒂芬·霍金（Stephen Hawking）是另一位表达保留意见的名人。“人们可以设想这样一种技术，它比金融市场更聪明，发明能力比人类研究人员更强，控制能力比人类领导更强，而且可以开发我们无法理解的武器。”他在2014年5月写道，“人工智能的短期影响由其控制人员决定，而长期影响则由人工智能是否完全被人控制所决定。”
霍金的许多观点都与本书一直讨论的人工智能的发展密切相关。如上文所说，伴随着神经网络的崛起，人工智能在金融市场的应用发生在20世纪80年代。在某些场合，人工智能确实证明了其无与伦比的发明能力，尤其是在处理基因算法时。人类的操控者可以只将重要的任务移交给即将管理我们生活的人工智能助理，与此同时，自人工智能出现之日起，人工智能武器的开发就一直是这个领域的目标之一。
霍金与马斯克着重强调了所谓的通用人工智能（Artificial General Intelligence，简称AGI）。到目前为止，本书中描述的所有人工智能应用都属于“狭义人工智能”或“弱人工智能”。这种称呼与该技术是否强大无关。正如我们在前几章看到的，今天，深度学习神经网络比构成传统人工智能的符号处理人工智能稳定许多倍。而“狭义”与“广义”或“强”与“弱”之分归结于智能的通用性。人工智能现在可以在很多特定领域打败人类，包括下棋和在电视节目《危险边缘》上回答问题。人工智能的应用范围一直在不断壮大，而且未来数十年内可能会覆盖当前一半的就业领域。
然而，尽管不同于只在小范围内有用的早期人工智能，这种狭义人工智能仍然可以进行扩展，从而在现实世界中发挥作用，但是这种人工智能仍然有明显的局限性，那就是只能用于单一且严格限定的领域。这里有个简单的例子，下棋人工智能虽然可以击败人类象棋大师，但它们在简单的翻译任务中则一无是处。如果你突然要求生产iPhone的机器人去画画，它可能也同样会非常失败。即使是旨在处理多任务的人工智能助手Siri等人工智能，如果你偏离了程序所预设的脚本，它也会变得混乱。尽管这些系统已经获得了惊人的海量数据和计算能力，但是它们缺乏基本的人类特质，比如不能从少量训练例子中总结规律，这就是为什么计算机科学家正在构建更多类生物学大脑算法。
那么通用人工智能中的“通用”有什么含义呢？与狭义、单领域人工智能应用相比，通用智能将表现出更广的、类人的智能。“通用问题解决者”就是这样一款人工智能。1959年赫伯特·西蒙、J. C. 肖（J. C. Shaw）和艾伦·纽维尔（Allen Newell）将一款人工智能软件乐观地命名为“通用问题解决者”，它能够在很多环境中运行，甚至在许多我们没有预测到的环境中运行。一言以蔽之，通用人工智能不是要建造思考的机器，而是要建造比我们人类更聪明的机器。