书名：AI：人工智能的本质与未来

    作者：【英】玛格丽特·博登

    译者：孙诗惠

    出版社：中国人民大学出版社

    出版日期：2017-06-01

    ISBN：978-7-300-24430-3

    价格：55.00元目录

    CONTENTS

    01 什么是人工智能

    虚拟机

    人工智能的主要类型

    人工智能的预言

    人工智能的起源

    控制论

    计算机建模者们分道扬镳

    02 强人工智能：人工智能领域的圣杯

    只有超级计算机还远远不够

    启发式搜索

    人工智能领域中的规划

    数学简化

    知识表示

    基于规则的程序

    框架、词向量、脚本、语义网络

    逻辑和语义网

    计算机视觉

    框架问题

    智能体和分布式认知

    机器学习

    通用系统

    梦想复兴

    缺失的方面

    03 语言、创造力和情感

    语言

    创造力

    人工智能与情感

    04 人工神经网络

    人工神经网络更广泛的含义分布式并行处理

    神经网络学习

    反向传播、大脑和深度学习

    网络丑闻

    连接不是一切

    混合系统

    05 机器人和人工生命

    情境机器人和有趣的昆虫

    进化人工智能

    自组织

    06 强人工智能会有真正的智能吗

    图灵测试

    意识的很多问题

    机器意识

    人工智能和现象意识

    虚拟机和身心问题

    意义和理解力

    神经蛋白是必要条件吗

    不只是大脑，身体也很重要

    道德社区

    道德、自由和自我

    心智和生命

    巨大的哲学分歧

    07 奇点

    奇点的预言家

    竞争的预测

    为怀疑论辩护

    全脑仿真

    我们应该担心什么

    我们为此做了些什么

    译者后记01 什么是人工智能

    人工智能(Artificial Intellegence，AI)就是让计算机完成人类心智

    (mind)能做的各种事情。通常，我们会说有些行为(如推理)是“智

    能的”，而有些(如视觉)又不是。但是，这些行为都包含能让人类和

    动物实现目标的心理技能，比如知觉、联想、预测、规划和运动控制。

    智能不是一维的，而是结构丰富、层次分明的空间，具备各种信息

    处理能力。于是，人工智能可以利用多种技术，完成多重任务。

    人工智能无处不在。

    人工智能的实际应用十分广泛，如家居、汽车(无人驾驶车)、办

    公室、银行、医院、天空……互联网，包括物联网(连接到小物件、衣

    服和环境中的快速增多的物理传感器)。地球以外的地方也有人工智能

    的影子：送至月球和火星的机器人；在太空轨道上运行的卫星。好莱坞

    动画片、电子游戏、卫星导航系统和谷歌的搜索引擎也都以人工智能技

    术为基础。金融家们预测股市波动以及各国政府用来指导制定公共医疗

    和交通决策的各项系统，也是基于人工智能技术的。还有手机上的应用

    程序、虚拟现实中的虚拟替身技术，以及为“陪护”机器人建立的各

    种“试水”情感模型。甚至美术馆也使用人工智能技术，如网页和计算机

    艺术展览。当然，它还有一些应用不那么让人欢欣鼓舞，如在战场上穿

    梭的军事无人机——但是，谢天谢地，它也用在了机器人扫雷舰上。

    人工智能有两大主要目标：一个是技术层面的，利用计算机完成有

    益的事情(有时候不用心智所使用的方法)；另一个是科学层面的，利

    用人工智能概念和模型，帮助回答有关人类和其他生物体的问题。大多

    数人工智能工作者只关注其中一个目标，但有些也同时关注两个目标。人工智能不仅可以带来不计其数的技术小发明，还能够对生命科学

    产生深远的影响。某一科学理论的计算机模型可以检验该理论是否清晰

    连贯，还能生动形象地证明其含义(通常是未知的)。理论是否正确另

    当别论，但其依据是从相关科学范畴得出的证据。就算我们发现该理论

    是错误的，结果也能够给人以启迪。

    值得一提的是，心理学家和神经学家利用人工智能提出了各种影响

    深远的心智—大脑理论，如“大脑的运作方式”和“这个大脑在做什么”的

    模型：它在回答什么样的计算(心理)问题，以及它能采用哪种信息处

    理形式来达到这一目标等。这两个问题不一样，但都十分重要。还有一

    些问题尚未回答，因为人工智能本身已经告诉我们：心智内容十分丰

    富，远远超出了心理学家们先前的猜想。

    生物学家们也用到了人工智能——人工生命(A-Life)。利用这项

    技术，他们为生物体的不同内部结构建立了计算机模型，以解读不同种

    类的动物行为、身体的发育、生物进化和生命的本质。

    人工智能对哲学也有影响。如今，很多哲学家对心智的解读也基于

    人工智能概念。例如，他们用人工智能技术来解决众所周知的身心问

    题、自由意志的难题和很多有关意识的谜题。然而，这些哲学思想都颇

    具争议。人工智能系统是否拥有“真正的”智能、创造力或生命，人们对

    此意见不一。

    最后，人工智能向我们发出了挑战——如何看待人性，以及未来在

    何方。的确，有些人会担心我们是否真的有未来，因为他们预言人工智

    能将全面超过人的智能。虽然他们当中的某些人对这种预想充满了期

    待，但是大多数人还是会对此感到害怕。他们会问，如果这样，那还有

    什么地方能保留人类的尊严和责任？

    我们将在接下来的几章逐一讨论上述问题。虚拟机

    谈到人工智能，人们可能会说：“那不就是指电脑嘛。”嗯，他们这

    么说既对也不对。电脑不是重点，重点是电脑做的事情。也就是说，虽

    然人工智能离不开物理机(如电脑)，但是我们最好把它看作计算机科

    学家所说的虚拟机。

    虚拟机和虚拟现实中所描述的机器不一样，和训练机修工时所使用

    的模拟汽车引擎也不一样，它是程序员在编程时和人们使用它时所想到

    的信息处理系统。

    让我们拿管弦乐队作类比。首先乐器是不能少的。要想让乐器演奏

    出美妙的音乐，那么木头、金属、皮革和弦线都必须遵循一定的物理定

    律。但观众在听音乐会时并不在意这一点，他们感兴趣的是音乐。他们

    也不在意单个音符，更不用说空气中发声的震动了。他们听的是音符产

    生的音乐“形状”：旋律与和声、主题与变奏、含混音与切分音。

    当我们谈到人工智能时，情况也类似。用户使用设计师设计出来的

    文字处理器直接处理文字和段落。通常情况下，程序本身既不包含文

    字，也不包含段落(但有些段落也包含，比如用户可以很容易将版权标

    示插入到文字中)。神经网络(见第4章)也是并行处理信息，即使它

    通常是在约翰·冯·诺依曼(John von Neumann)结构计算机上(按顺

    序)实现的。

    当然，这并不是说虚拟机只是杜撰或凭空想象出来的东西。虚拟机

    是真实存在的。我们不仅可以利用虚拟机完成系统内的任务(如果将其

    连接到照相机或机器人的手等这样的物理设备上)，甚至还可以做好外

    部世界的工作。如果程序突发问题，人工智能工作者通常很少去找硬件

    方面的原因，而是对虚拟机或软件中的事件和因果关系更感兴趣。

    编程语言也是虚拟机(它的指令只有翻译成机器码后才能运行)。

    有些指令用更低级的编程语言进行定义，所以多个层级的指令都需要翻

    译。否则，要是用机器码的位组合模式处理信息，大多数人将无法正常

    思考。如果信息处理过程过于复杂且层级划分过于细化的话，那么也没

    有人能正常思考。虚拟机不只是编程语言。虚拟机一般包含各个层级的活动模式(信

    息处理)。虚拟机也不只是在电脑上运行的虚拟机。在第6章中，我们

    将看到“人类的心智”也可以被看作在大脑中实现的虚拟机，更确切地

    说，是并行运行(在不同时间发展和学习得到的)且交互的虚拟机集

    合。

    要实现人工智能领域的进步，我们需要不断完善有趣实用的虚拟机

    的定义。不断改良物理机(更大、更快)确实有好处，它甚至可能是实

    现某种虚拟机的必要条件。但是，只有具备海量信息的虚拟机才能在这

    些物理机上运行，否则后者就算功能再强大也没用(同理，要在神经科

    学领域取得进步，我们需要清楚了解在神经元上实现什么“心理”虚拟

    机，详见第7章)。

    各类外部世界的信息得到充分利用。所有人工智能系统都需要输入

    和输出设备，要是只需要一个键盘和一个屏幕就好了。它通常还需要专

    用传感器(可能是照相机或压敏晶须)或反应器(可能是供音乐或演讲

    用的声音合成器或机器人的手)。人工智能程序不仅处理内部信息，还

    与这些计算机的接口连接，或改变它们。

    人工智能程序处理通常包含内部的输入和输出设备，供整个系统内

    部的虚拟机交互。例如，象棋程序的某一部分可能通过注意其他部分的

    情况来发现自己所面临的潜在威胁，这时候，它就有可能与那个部分配

    合，共同阻断本次威胁。人工智能的主要类型

    信息处理的方法取决于其所包含的虚拟机。我们将在后面的章节中

    看到，这主要有五种处理类型，每种处理类型又都包含很多变体。一种

    是经典逻辑或符号主义，有时称为有效的老式人工智能(Geod Old-

    Fashioned AI，以下简称GOFAI)；另一种是人工神经网络或联结主

    义。此外，还有进化编程、细胞自动机以及动力系统。

    工作者通常只使用一种方法来处理信息，但也存在混合虚拟机。例

    如，在第4章中提到的一个在符号主义处理和联结主义处理之间不断切

    换的人类行为理论(这解释了为什么有的人在完成计划任务的过程中，会分心去关注环境中与之无关的东西以及这种现象是如何发生的)。第

    5章描述了一款集“情境”机器人学、神经网络和进化编程三者于一体的

    感觉运动装置(在装置的协助下，机器人将纸板三角形用作地标，找到

    了“回家”的路线)。

    除了实际应用外，这些方法能够启发心智、行为和生活。神经网络

    有助于模拟大脑的内部结构以及进行模式识别和学习。经典逻辑人工智

    能(特别是与统计学结合时)可以模拟学习、规划和推理。进化编程阐

    明了生物进化和大脑发育。细胞自动机和动力系统可用来模拟生物体的

    发育。有些方法更接近于生物学，而不是心理学；有些方法更接近非条

    件反射行为，而不是慎重思考。要想全面了解心智，除了要用到上述所

    有方法外，还可能需要更多别的方法。

    许多人工智能工作者并不关心心智的运作方式，他们只注重技术效

    率，而不追求科学理解。即使人工智能技术起源于心理学，但现在与心

    理学的联系却很少。然而，我们会发现，如果要想在强人工智能

    (artificial general intelligence)方面取得进步，我们需要加深理解心智

    的计算架构。人工智能的预言

    19世纪40年代，埃达·洛夫莱斯(Ada Lovelace)伯爵夫人预言了人

    工智能。更准确地说，她预言了部分人工智能。她专注于符号和逻辑，从未考虑过神经网络、进化编程和动力系统。她也未考虑过人工智能的

    心理目标，而纯粹对技术目标感兴趣。例如，她说一台机器“可能编写

    所有复杂程度或长度的细腻且系统的乐曲”，也可能表达“在科学史上具

    有划时代意义的、自然界的重要事实”(因此，如果当她看到以下情况

    时，她将不会感到吃惊：两百年以后，科学家们用“大数据”和精心制作

    的编程方法来推动遗传学、药理学、流行病学等无数领域知识的发

    展)。

    她口中的机器是分析机(Analytical Engine)。这是一台齿轮连嵌

    齿轮的装置(从未被真正地制造出来)，由其密友查尔斯·巴贝奇

    (Charles Babbage)于1834年设计。虽然这台机器主要用于求解代数和

    处理数字，但其本质相当于一台通用数字计算机。

    她认识到了分析机的潜在通用性和处理符号(表示“宇宙中的所有

    主体”)的能力。她还描述了现代编程的各种基础知识：存储程序、分

    层嵌套的子程序、寻址、微程序设计、循环、条件、注释以及程序错

    误。她并没有谈到编曲或科学推理是如何在巴贝奇的机器上实现的。是

    的，人工智能可以实现，但是实现的方法当时仍然是一个谜团。人工智能的起源

    一个世纪以后，艾伦·图灵(Alan Turing)解开了这个谜团。1936

    年，图灵提出，每个合理计算在原则上都可以由现在被称为“通用图灵

    机”(Turing Machine)的数学系统来执行。图灵机是一个虚构系统，建

    立和修改用“0”和“1”表示的二进制符号组合。

    第二次世界大战期间，图灵在布莱切利园(Bletchley Park)破解德

    国密码系统后，到20世纪40年代末一直在思考如何让一台物理机最接近

    抽象定义的图灵机(他帮助设计的第一台现代计算机于1948年在曼彻斯

    特完成)，以及如何让这台物理机智能地执行任务。

    与埃达·洛夫莱斯不同，图灵接受了人工智能的两个目标(技术和

    心理)。他想让新机器做通常需要智能才能完成的有意义的事情(可能

    通过使用非自然技术)，并模拟以生理为基础的心智所发生的过程。

    1950年，他那篇以幽默方式提出图灵测试(见第6章)的论文成为

    了人工智能的宣言[第二次世界大战后不久，其论文得到进一步完善，但《官方保密法》(Official Secrets Ac)阻止其出版]。它抓住了智能

    信息处理(游戏、知觉、语言和学习)的症结，并暗示了当时计算机领

    域已经取得的成就，让人跃跃欲试(只有“暗示”，因为布莱切利园的工

    作仍然属于最高机密)。它甚至给出了算法，如神经网络和进化计算，不过在其论文发表很久以后，这些算法才得到广泛认可。要解开奥秘，这些都只是冰山一角，只是泛泛而谈——纲领性的东西，而不是程序。

    图灵坚信，人工智能一定能以某种方式实现。20世纪40年代初，他

    的这一信念得到了神经病学家精神病学家沃伦·麦卡洛克(Warren

    McCulloch)和数学家瓦尔特·皮茨(Walter Pitts)的支持。

    他们的论文《神经活动中内在思想的逻辑演算》(A Logical

    Calculus of the Ideas Immanent in Nervous Activity)结合了图灵的观点与

    另外两项令人兴奋的成果(可追溯到20世纪早期)：伯特兰·罗素

    (Bertrand Russell)的命题逻辑和查尔斯·谢林顿(Charles Sherrington)

    的神经突触理论。命题逻辑的关键点在于它是二进制的。每个句子(也称为命题)假

    定为真或假。没有中间答案，也不接受不确定性或概率。只允许两

    个“真值”，即真和假。

    此外，利用逻辑运算符(诸如and、or和if-then)构建了复杂命题，完成演绎论证，而逻辑运算符的意义由子命题的真假来定义的。例

    如，如果两个(或更多)命题由“and”连接，则认为这两个(所有命

    题)都是真的。所以当且仅当“玛丽嫁给汤姆”和“弗洛西嫁给彼得”二者

    都是真命题，那么“玛丽嫁给汤姆和弗洛西嫁给彼得”才是真命题。事实

    上，如果弗洛西没有嫁给彼得，那么包含“and”的复杂命题就是假命

    题。

    麦卡洛克和皮茨将罗素和谢林顿的观点结合，因为他们都描述了二

    进制系统。逻辑的真假(truefalse)值映射到图灵机中的脑细胞开关

    (onoff)活动和个体状态01中。谢林顿认为，神经元不仅进行严格的

    开关活动，而且具有固定阈值。因此，逻辑门(and、or和not)被定义

    为微小的神经网络，可以相互连接来表示高度复杂的命题。任何东西只

    要能用命题逻辑表述，那就能用某种神经网络和某种图灵机来计算。

    简单来说，就是神经生理学、逻辑学和计算被放在一起研究。后

    来，心理学也被纳入进来一起讨论。麦卡洛克和皮茨相信(就像许多哲

    学家当时所说的)，自然语言在本质上归结为逻辑。所以，从科学论证

    到精神分裂症错觉的所有推理和观点都可以放到他们的理论“磨坊”里加

    工。麦卡洛克和皮茨为整个心理学预言了一个时代，“(神经)网络的

    设计规格将对心理学领域取得的所有成果都有帮助”。

    其核心含义在当时很清楚：同一个理论方法，即图灵计算，可用于

    人和机器智能，麦卡洛克和皮茨的文章甚至影响了计算机的设计。约翰

    ·冯·诺依曼当时打算使用十进制代码，但他后来意识到了问题，改为二

    进制。

    图灵当然赞同图灵计算，但他无法进一步推动人工智能的发展：当

    时技术太过原始。然而，到20世纪50年代中期，出现了功能更强大且更

    容易使用的机器。这里的“易于使用”并不是说更容易打开电脑的按钮，也不是说更容易将它在房间里推来推去，而是指定义新的虚拟机更加容

    易(例如，编程语言)，从而有利于定义更高级的虚拟机(例如，用来

    做数学运算或规划的程序)。大约本着图灵宣言的精神，符号人工智能的研究在大西洋两岸得以

    开始。20世纪50年代末期，有一个标志性事件上了新闻头条，即阿瑟·

    塞缪尔(Arthur Samuel)的跳棋(国际跳棋)程序打败了塞缪尔本人。

    这无疑暗示着电脑有一天可能会具有超人的智力，超过设计它们的程序

    员的能力。

    20世纪50年代末期，还出现了第二个这样的暗示，即逻辑理论机

    (Logic Theory Machine)不仅证明了罗素的18个关键逻辑定理，还发

    现了一个更有效的证明，来证明其中某一个定理。这的确令人印象深

    刻。塞缪尔只是一个平庸的跳棋选手，但是罗素可是一位世界级的逻辑

    学家[罗素本人为这项成就感到十分高兴，但是《符号逻辑杂志》

    (Journal of Symbolic Logic)拒绝发表一篇计算机程序撰写并署名的论

    文，更为重要的是，它并没有证明一个新定理]。

    逻辑理论机很快就被一般问题解决器(General Problem Solution，以下简称GPS)“超越”——“超越”并不是说GPS可以“超越”更多卓越的

    天才，而是说它的应用范围不再限制在一个领域。顾名思义，GPS可解

    决用目标、子目标、动作和运算符表示的任何问题(详见第2章)。程

    序员一旦确定与任何特定领域相关的目标、动作和运算符，剩下的推理

    工作就可以由GPS负责完成。例如，GPS解决了“牧师和野人”的问题

    (三个牧师和三个野人在一条河的一边，现在有一艘船，一次最多可以

    载两个人。问题来了，如何在野人数量不超过牧师数量的情况下确保每

    个人都能过河)。这个问题对人类来说都不简单，因为每次把两个人运

    过去之后，都必须让其中一个回来，这样游戏才能继续下去(大家可用

    便士试一试)。

    逻辑理论机和GPS都是GOFAI的早期示例。现在说它们是“老式

    的”，当然毫无疑问；但它们也是“有效的”，率先运用了“启发法”和“规

    划”——二者在今天的人工智能领域都至关重要(见第2章)。

    并不是只有GOFAI这种人工智能受到论文《神经活动中内在思想的

    逻辑演算》的启发，联结主义也备受鼓舞。20世纪50年代，计算机上特

    制或仿真的麦卡洛克和皮茨逻辑神经元网络被用来[如艾伯特·厄特利

    (Albert Uttley)]模拟联想学习和条件反射(这些神经元网络进行集

    中式而非分布式处理，与今天的神经元网络不同，详见第4章)。

    早期网络模拟并不完全由神经—逻辑统治。雷蒙德·拜沃勒

    (Raymond Beurle)在20世纪50年代中期实现的系统(在模拟计算机中)大不一样。他的研究工作没有始于精心设计的逻辑门网络，而是始

    于随机连接的和不同阈值的单元的二维数组。他认为神经自组织的发生

    是因为动力波的激活——构建、传播、坚持、死亡和时不时的相互作

    用。

    拜沃勒已经意识到，诡辩机可以模拟心理过程，但不等于大脑实际

    上就是这样的机器。麦卡洛克和皮茨已经指出了这一点，他们发表了一

    篇具有开创性意义的论文，短短四年后，又在其另外一篇论文中指出了

    热力学比逻辑更接近大脑的功能。逻辑学被统计学取代，单一单元被集

    合取代，确定性纯度被概率噪音取代。

    换句话说，他们已经描述了我们现在所说的分布式容错算法(见第

    4章)，并认为这种新算法是之前算法的“延伸”，彼此并不矛盾。它在

    生物学上更现实。控制论

    麦卡洛克比GOFAI和联结主义对早期人工智能的影响更为深远。20

    世纪40年代，在其神经学和逻辑学研究成果的指引下，处于萌芽期的控

    制论运动得到蓬勃发展。

    当时，控制论者的研究重心是生物自组织。它涵盖了各种适应和新

    陈代谢，包括自主思考、微观运动行为和(神经)生理调节。其核心思

    想是“双向循环性”或反馈。关键问题是目的论或目的性。对于反馈取决

    于目标的差异性而言，这些概念高度相关——目标现阶段的偏差被用于

    指导下一步动作。

    1948年，诺伯特·维纳(Norbert Wiener，其在战争期间设计了反弹

    道导弹)对该运动进行了命名，将其定义为“关于在动物和机器中控制

    和通信的研究”。那些控制论者在建立计算机模型的时候，经常从控制

    工程学和模拟计算机中获取灵感，而不是从逻辑学和数字计算中获取。

    然而，这种区分并不是十分明确。例如，目标的差异性被用于控制制导

    导弹，以及解决符号问题。此外，图灵作为经典人工智能的冠军，用动

    力学方程(描述化学扩散)定义自组织系统。在这些系统中，诸如点或

    片段的新结构可以从一堆同质的低级个体中产生(见第5章)。

    早期参与该运动的成员还包括：经验心理学家肯尼思·克雷克

    (Kenneth Craik)、数学家约翰·冯·诺伊曼、神经学家威廉·格雷·沃尔特

    (William Grey Walter)和威廉·罗斯·艾什比(William Ross Ashby)、工程师奥利弗·塞尔弗里奇(Oliver Selfridge)、精神病学家和人类学家

    格雷戈里·贝特森(Gregory Bateson)以及化学和心理学家戈登·帕斯克

    (Gordon Pask)。

    克雷克(于1943年在一次自行车事故中逝世，享年31岁)在研究神

    经系统的过程中参考了模拟计算，当时还没出现数字计算机。他根据大

    脑中“模型”的反馈，大致描述了知觉、微观运动行为和智力。他的大脑

    模型或表示概念后来在人工智能中产生了巨大的影响。

    整个20世纪30年代，约翰·冯·诺依曼都对自组织心存疑惑，同时又

    因麦卡洛克和皮茨的第一篇论文感到异常兴奋。他不仅将基本的计算机设计从十进制改为二进制，还完善了麦卡洛克和皮茨的观点，以解释生

    物进化和繁殖。他定义了各种细胞自动机，即由很多基本计算单元组成

    的各种复杂系统。计算单元的变化遵循简单规则，而这些规则又取决于

    相邻单元的当前状态。其中一些单元可以复制其他单元。他甚至定义了

    一个能够复制任何东西的通用复制器——包括复制它自己。他指出，复

    制错误可能导致进化。

    约翰·冯·诺依曼用抽象的信息术语对细胞自动机作了详细说明。但

    是这些细胞自动机可以用多种方式具现，例如自组装机器人、图灵的化

    学扩散、拜沃勒的物理波或很快将揭开神秘面纱的DNA。

    从20世纪40年代末开始，艾什比制作了同态调节器

    (Homeostat)，它是一个生理性自体调解的电化学模型。它可以维持

    机体内环境的总体恒定，无论最初分配给它的100个参数值是多少(允

    许设定近400000种不同的起始条件)。它阐释了艾什比的动态自适应理

    论在试错法学习和自适应行为中的应用，这种动态自适应可以发生在身

    体内部(尤其是大脑)，也可以发生在身体与外部环境之间的环境。

    格雷·沃尔特也在研究自适应行为，但他用的是一种迥然不同的研

    究方式。他研发了一款类似乌龟的微型机器人，其感觉运动电路模拟了

    谢林顿的神经反射理论。这些情境机器人先驱的行为栩栩如生，如寻找

    光线、避开障碍，以及利用有条件的反射进行联想学习。这些有意思的

    机器人于1951年在“英国节”(Festival of Britain)上向公众展示。

    十年后，塞尔弗里奇(伦敦百货商店创始人的孙子)利用符号方法

    实现了一种叫伏魔殿(Pandemonium)的并行处理系统。

    这个GOFAI程序利用许多底层“守护程序”(特征感知器)来学习如

    何识别模式，每个“守护程序”一直都在感知外界信息，并将感知到的结

    果传递给更高级的“守护程序”。这些“守护程序”重点关注到目前为止一

    致的特征(例如，一个F中只有两根水平条)，而忽略了任何不合适的

    特征。置信度可以有差异，而且它们至关重要：声音最洪亮的守护程序

    影响最大。最后，最高级的守护程序根据既得证据(通常是冲突的)，选择最佳模式。这项研究很快对联结主义和符号人工智能产生了影响，一个最近的分支是学习智能分布实体(Learning Intelligent Distribution

    Agent，以下简称LIDA)的意识模型(详见第6章)。

    贝特森对机器没有什么兴趣。他于20世纪60年代提出了与文化、酗酒和(父或母对子女的)“双重约束”精神分裂症有关的理论。但是，这

    些理论基础却是在早些时候控制论会议上提出的和通信(即反馈)相关

    的想法。从20世纪50年代中期开始，帕斯克——麦卡洛克口中的“自组

    织系统天才”，在许多项目中都用到了控制论和符号思想，其中包括：

    交互式剧院、互通音乐机器人、获悉并适应其用户目标的架构、化学自

    组织概念和教学机。借助帕斯克的研究，人们能够利用复杂的知识表示

    来采取不同方法，而这对认知方式为循序渐进型和整体型(以及对不相

    关事物不同程度的容忍)的学习者都适用。

    简言之，到20世纪60年代后期，研究人员考虑了所有主要的人工智

    能类型，甚至将其实现——有的甚至更早。

    大多数相关研究人员至今还广受人们的尊重，但只有图灵一直是人

    工智能盛宴上的“幽灵”，其影响无处不在。多年来，其他人只被一些研

    究领域的分支机构所记住。特别是，格雷·沃尔特和艾什比几乎被人们

    遗忘，直到20世纪80年代后期，他们才被赞誉为“人工生命之父”(与图

    灵一起)。帕斯克等待的时间更长。要知道其中的原因，我们必须了解

    计算机建模者们是如何分道扬镳的。计算机建模者们分道扬镳

    20世纪60年代之前，模拟语言逻辑思维和模拟有目的的自适应的

    微观运动行为这两个研究方向是有交叉的。有些专家二者都研究[唐纳

    德·麦凯(Donald Mackay)甚至建议制造将神经网络与符号处理结合起

    来的混合计算机]。所有相关工作者都能彼此产生共鸣。研究生理自动

    调整的工作者们认为自己与注重心理研究的同事们做的是同一件事。他

    们都参加相同的会议：在美国召开的跨学科Macy研讨会(1946年到

    1951年，由麦卡洛克担任主席)和在伦敦召开的“思维过程机械化”研讨

    会(1958年，由厄特利组织)。

    然而，大约从1960年开始，工作者们的研究方向便出现了分歧。广

    义上来说，对生命感兴趣的人只关注控制论，而那些对心智感兴趣的人

    则关注符号计算。网络爱好者们当然对大脑和心智都感兴趣，但他们通

    常研究联想学习，而非具体的语义内容或推理，所以他们关注的是控制

    论而不是符号人工智能。研究的分支越来越多，不幸的是，各分支之间

    缺乏对彼此应有的尊重。

    这个过程中必然会出现一些优秀的小社会圈子，因为他们讨论的理

    论问题各不相同，既有生理方面的，也有心理方面的。所用的技术也不

    一样。广义上讲，是微分方程与逻辑之间的较量。专门化趋势不断加

    强，交流也因此变得越来越困难，而且很大程度上是无利可图的。兼收

    并蓄的会议已经过时。

    即使如此，各分支学派也不应该太操之过急。对控制论和联结主义

    学派的反感源于专业上的嫉妒和正义的愤慨。这是因为符号计算在发展

    初期取得了巨大的成功；带有挑衅性的术语“人工智能”[由约翰·麦卡

    锡(John McCarthy)于1956年提出，以前称为“计算机模拟”]博得了新

    闻工作者们的眼球；一些不现实的炒作；一些符号主义研究者表现得傲

    慢自大。

    符号主义阵营的成员们认为自己赢得了人工智能的比赛，最初没有

    太多的敌意。事实上，他们在很大程度上忽视了早期的网络研究，其中

    的一些领导者[例如，马文·明斯基(Marvin Minsky)]已经开始着手

    网络的研究。然而，在1958年，弗兰克·罗森布拉特(Frank Rosenblatt)提出了神

    经动力学理论，定义了能在随机初始状态下(并且能够容忍初始化阶段

    的错误)进行自组织学习的并行处理系统，并在他的光电感知器中部分

    实现了该理论。它与“伏魔殿”不同，无须输入模式让程序员提前分析。

    符号主义学派无法忽视这种新形式的联结主义。但它很快就被打入“冷

    宫”。20世纪60年代，明斯基与西摩尔·帕普特(Seymour Papert)一道发

    表了一篇尖锐的批评文章，声称感知器连一些基本的东西都无法计算

    (详见第4章)。

    神经网络研究的资金来源也因此被切断。这个结果是由于两派攻击

    者蓄意为之，从而加深了人工智能内部的对抗。

    现在大家看来，经典人工智能研究似乎在当时占绝对的主导地位。

    诚然，格雷·沃尔特的机器乌龟们在英国节上备受赞誉。和伯纳德·威德

    罗(Bernard Widrow)的模式学习Adaline[1]

    (基于信号处理)一样，罗

    森布拉特的感知器在20世纪50年代后期也被媒体大肆宣传。但符号主义

    研究者们的批评让人们完全失去了对感知器的兴趣。20世纪60年代到70

    年代，在媒体中如日中天的是符号型人工智能(还影响了精神哲学)。

    风水轮流转。神经网络，如分布式并行处理(Parallel Distributed

    Processing，以下简称PDP)于1986年再次登台(见第4章)。本该更懂

    得此方法的大多数外界人士和一些内部人士都把它当成了一个彻头彻尾

    的“新”东西。它还吸引了无数研究生和很多新闻媒体(和哲学)的关

    注。那时，鼻子都被气歪的人恐怕是那些符号人工智能的研究者了。一

    时间，PDP研究成为时尚，大家普遍认为经典人工智能的研究当时已经

    失败。

    还有一些控制论者因其在1987年命名“人工生命”，终于从大批记者

    和研究生那里“受宠”。于是，符号人工智能再次受到挑战。

    然而，在21世纪，不同的问题需要不同类型的答案——各有所长，这一点显而易见。虽然先前的敌意至今犹存，但不同方法仍有相互尊重

    和合作的空间。例如，“深度学习”有时用于将符号逻辑与多层概率网络

    结合的强大系统；还有一些混合方法包含高级复杂的意识模型(见第6

    章)。

    构成人类心智的虚拟机本来就是各式各样的，因此大家没必要对人

    工智能领域的研究分歧太过惊讶。注释

    [1]Adaline是一个早期的单层人工神经网络和实现这个网络的物理设备的名

    称。网络使用存储电阻器。由伯纳德·威德罗教授及其在斯坦福大学的研究生泰德

    ·霍夫(Ted Hoff)于1960年联合开发。它基于麦卡洛克—皮茨的神经元，由权

    重、偏差和求和函数组成。——译者注02 强人工智能：人工智能领域的圣

    杯

    最先进的人工智能是一种神奇美妙的东西，可以提供各式虚拟机，以进行各种不同类型的信息处理。它没有核心秘密，也没有统一的核心

    技术。人工智能工作者来自各个领域，几乎没有统一的目标和方法。本

    书只能涵盖最近取得的极少一部分成就。总之，人工智能的方法范围极

    其宽泛。

    可以说，人工智能已经取得了惊人的成就。它的实际运用范围也十

    分广泛。我们现在有大量针对无数特定任务而设计的人工智能应用程

    序。生活中各个领域的专业人士和非专业人士几乎都在使用。很多程序

    甚至比一些专家还牛。由此看来，人工智能的进展的确引人注目。

    但是，人工智能先驱们的目标不仅限于专家系统，他们还希望发展

    通用智能系统。他们模拟的所有人类能力——视觉、推理、语言、学习

    等——可应对各类挑战。此外，这些能力将适时得到整合。

    从这些标准来看，进步的空间非常大!约翰·麦卡锡很早就认识到

    人工智能需要“共识”。作为1971年和1987年图灵奖的获得者，他在发表

    获奖感言的时候谈到了人工智能的通用性(Generality in Artificial

    Intelligence)，但他其实是在抱怨，而不是庆祝。到2016年，他的抱怨

    仍未得到答案。

    随着近来计算机能力的不断增强，强人工智能在21世纪再次引起人

    们的兴趣。如果这一目标得以实现，人工智能系统将减少对专用编程技

    巧的依赖，而受益于推理和知觉这些通用功能——语言、创造力和情感

    (所有这些我们都将在第3章中讨论)。然而，这谈何容易。通用智能仍然是一个严峻的挑战，让人难以捉

    摸。强人工智能无疑是人工智能领域的圣杯。只有超级计算机还远远不够

    对于任何想要实现这个梦想的人而言，超级计算机必然是一个助推

    器。组合爆炸——其中需要的计算超过实际能执行的计算——已不再构

    成威胁。然而，我们不能一直靠增强计算能力来解决问题。

    通常，我们还需要新的解决方法。此外，即使某一具体方法从理论

    上讲是可行的，但也可能需要大量的时间或存储，才能在实践中发挥作

    用。第4章给出了相关例子(有关神经网络)。同样，穷举法列出了所

    有可能的象棋步骤，但它需要的存储位置比宇宙中的电子还要多，因此

    就算有一大堆超级计算机也不能满足需要。

    另外，效率也很重要：计算数量越少越好。总之，问题必须易于处

    理。

    如今，已经有几个基本策略可以做到这一点。它们由经典符号人工

    智能或GOFAI开创，在今天仍然必不可少：第一，只关注一部分搜索空

    间(问题的计算机表示，解决方案假定就在该表示中)；第二，简化假

    设以构建较小的搜索空间；第三，有效安排搜索过程；第四，用新方式

    表示问题，以构建不同的搜索空间。

    这些方法分别对应的是启发法、规划、数学简化和知识表示。接下

    来的五个部分将分别讨论这些强人工智能策略。启发式搜索

    “启发式的”(heuristic)和“找到了”(Eureka)在英文中有相同的词

    根：来自意为“寻找”或“发现”的希腊语。启发法得到了早期GOFAI学派

    的重视，并且经常被看作“编程技巧”。但是，这个术语并非源于编程：

    逻辑学家和数学家对其早已熟悉。早在数千年前，人类就用启发法解决

    问题(有意或无意地)，远远早于埃达·洛夫莱斯伯爵夫人(Ada Love

    Lace’s)预见人工智能的时间。

    无论是对人还是对机器来说，启发法都有利于问题的解决。强人工

    智能使用启发法的模式是：让程序只针对搜索空间的某些部分，同时避

    开其他部分。

    很多启发式算法都属于无法保证成功的经验法则，如早期人工智能

    使用的大多数经验法则。在启发法引导下，系统正好忽略了某部分的搜

    索空间，而解决方案可能正好位于这部分空间里。例如，在国际象棋

    中，“保护女王”是一条非常有用的规则，但偶尔也应该违背。

    还有一些启发式算法从逻辑学角度或数学角度被证明是合理的。如

    今，人工智能和计算机科学领域的大量工作都是为了确定程序可证明的

    属性。这是“友好人工智能”的一个方面，因为人类安全可能由于使用从

    逻辑学角度看不是很可靠的系统而受到的威胁(详见第7章，启发式算

    法和算法之间原则上没有区别，许多算法实际上是包含多个特定启发式

    算法的微型程序)。

    无论启发法可靠与否，它对人工智能搜索来说都不可或缺。上文提

    到人工智能越来越专业化，这部分取决于能显著提高效率的新启发法的

    定义，但仅限于限制颇多的某类问题或搜索空间。一个非常成功的启发

    法可能并不适合让其他人工智能程序“借用”。

    如果我们给定几种启发法，那么应用它们的顺序就可能变得很重

    要。例如，即使这种排序偶尔会导致灾难，也应该先考虑“保护女王”，再考虑“保护象”。不同的顺序将定义不同的搜索树遍历整个搜索空间。

    给启发法下定义和排序是现代人工智能的关键任务(启发法在认知心理

    学中的地位也很突出，例如，“快速节俭启发式”指出进化如何让人获得对环境作出有效回应的方法)。

    利用启发法，我们不再需要穷举搜索整个搜索空间，但它们有时会

    和(有限的)穷举搜索结合使用。1997年，因击败世界冠军加里·卡斯

    帕罗夫(Gary Kasparov)而名声大噪的IBM国际象棋程序深蓝(Deep

    Blue)使用的是专用硬件芯片，每秒能处理2亿个位置，可以知道接下

    来8步的所有备选棋步。但是，它不得不用启发法来选择备选棋步中

    的“最佳”棋步。由于启发法可信度不高，所以即使是深蓝，也不能每次

    都胜出。人工智能领域中的规划

    在今天的人工智能领域中，规划的地位十分突出，尤其是在很多军

    事活动中。事实上，直到最近才在人工智能上支付大部分研究费用的美

    国国防部指出，在第一次伊拉克战争的战场上，他们在后勤保障方面省

    下的钱(利用人工智能规划)超出了其前期投入。

    规划不仅限于人工智能：我们都在规划。请想想假期打包东西的情

    景。你必须找到所有要带的东西，但这些东西可能没有放在同一个地

    方。你可能还要买一些新东西(比如防晒霜)。你必须决定是把所有东

    西放一块儿(也许放在床上，也许放在桌子上)，还是把每样东西都放

    在皮箱里。这个决定可能部分取决于你是否决定最后再放衣服，因为你

    怕把衣服弄皱。你是需要一个背包，还是要一个手提箱，或者两者都

    要，你如何取舍？

    把规划用作人工智能技术的GOFAI程序员们考虑到了有意识的深思

    熟虑(基于神经网络的人工智能大不一样，因为它不模拟有意识的深思

    熟虑，详见第4章)。因为负责逻辑理论机(见第1章)和GPS的先驱们

    主要对人类推理心理学感兴趣。他们的程序基于被试主体为人的实验，要求被试人进行“有声思维”：一边做逻辑谜题，一边描述自己的思考过

    程。

    现代人工智能规划程序并不那么依赖从有意识的内省中或实验观察

    中获得的想法。它们的规划比早期程序的规划要复杂得多，但基本思想

    一致。

    一个规划列举出一系列在常规层级上表示的动作——一个最终目

    标、加上很多子目标和次级子目标……这样就不用一次性考虑所有的细

    节。在某一适当的抽象层级规划上可以修剪搜索空间内的搜索树，因此

    一些细节根本不需要考虑。有时，最终目标本身就是一个动作规划——

    可能是调度送向运出工厂或战场的货物。有时候，它还是一个问题的

    答案，比如医疗诊断。

    针对任何给定目标和预期情况，规划程序需要一个动作列表(即符

    号运算符)，或多种动作类型(通过填写来源于问题的参数，可以将动作实例化)，每个动作都能够作出一些相应的变化；针对每个动作，规

    划程序需要一组必要的前提条件(比较抓住某个东西，前提条件是这个

    东西必须是在手的可活动范围内)；针对所需变化的优先次序和对动作

    的排序，规划程序需要启发法。如果程序要选定某个特定动作，它可能

    要设置一个新的子目标以满足前提条件。这个目标制定的过程可以一再

    重复。

    通过规划，程序——或人类用户——可以发现已经做了什么动作，以及为什么这么做。“为什么”指的是目标的层次结构：做这个动作是为

    了满足那个前提条件，以实现这个子目标。人工智能系统通常采用“正

    向链接(推理)”和“反向链接(推理)”技术，来解释程序是如何找到

    解决方案的。这可以帮助用户判断程序的动作或建议是否恰当。

    当前，一些规划程序拥有数万行代码，它们在无数层级上定义分层

    的搜索空间。这些系统通常与早期的规划程序大相径庭。

    例如，大多数规划程序假定，并非所有的子目标都可以被独立处理

    (即问题可完全分解)。毕竟在现实生活中，某一个以目标为导向的行

    动所产生的结果都可能被另一个行动撤销。今天的系统能处理可部分分

    解的问题：它们独立处理子目标，但必要的时候，还可以做其他处理，以整合随之产生的各项子规划。

    经典系统只能解决那些在完全可观察的、可确定的和有限的静态环

    境中出现的问题。但是，一些现代规划程序可以处理在部分可观察(即

    系统的“世界”模型可能不完整或不正确)和不确定的环境中出现的问

    题。在这些情况下，系统必须监控执行期间的变化情况，以在规划中，或在自己对于“世界”的“信念”中，作出适当改变。一些现代规划程序可

    以在很长一段时间内一直进行监控：它们可以根据环境变化，不断制

    定、执行、调整和舍弃目标。

    其他许多开发领域已经取得了新进展，并且还在不断进步。所以，在20世纪80年代，一些机器人专家完全否决规划并转而青睐于“情境”机

    器人学(见第5章)的情况，着实让人惊讶，例如，目标和可能动作的

    内部表示等概念也被否决了。然而，在很大程度上，这种批评是不对

    的。批评者们自己的系统可能没有表示目标，但可能表示了其他东西，例如视网膜刺激和奖励。此外，即使是最先遭受此类批评的机器人技

    术，也常常需要规划以及纯粹的被动回应，例如，制造会踢足球的机器

    人。数学简化

    鉴于启发法任由搜索空间自由发展(这样程序就可以专注于搜索空

    间里最合适的部分)，简化假设构造了一个不切实际但更易于计算的搜

    索空间。

    一些假设和数学相关，如机器学习中通常使用的“i.i.d.”(独立同分

    布)假设。与数据中实际的概率构成相比，用i.i.d.表示的概率构成要简

    单得多。

    数学简化在定义搜索空间时的优点是可以利用搜索的数学方法。这

    种方法定义清晰，而且至少方便数学家理解。这并不代表任何数学定义

    的搜索都有实际使用价值。如上所述，某一方法在数学层面可以保证解

    决某一特定类别的所有问题，但是该方法在实际运用中并不适用，因为

    其时间成本可能是无限的。然而，它可能建议与此类似但更实际的方

    法，请见第4章中有关“反向传播”的讨论。

    在人工智能领域，非数学的简化假设比比皆是，并且通常很直接。

    一种是假定无须考虑情感因素(见第3章)就能定义和解决问题的(默

    认)假设。还有很多假设被构建在用来指定任务的一般知识表示中。知识表示

    一般来说，实现人工智能的最难部分是最开始如何向系统表示问

    题。即使人类看似可以直接与程序交流(用英语对着Siri说话或者在谷

    歌的搜索引擎中输入法语单词)，但事实并非如此。人们无论是处理文

    本还是图像，都必须将包含的信息(“知识”)以机器可以理解的方式表

    示给系统，换句话说，以系统可以处理的方式表示(机器是否“真”的理

    解，我们将在第6章中进行讨论)。

    人工智能表示问题的方式五花八门。有些是对GOFAI中知识表示的

    一般方法进行演绎或改动。越来越多的是针对一小类问题制定的一些高

    度专业化的方法。例如，我们可能为人类某种癌细胞的X射线图像或照

    片精心设计一种新的表示方法，从而可以得到某个非常具体的医学解释

    方法(因此，这种新方法不能用来识别猫或CAT 扫描)。

    欲实现强人工智能，通用方法是关键。这些方法最初受到人类认知

    心理学研究的启发，包括：IF—THEN规则集；个体概念的表示；模式

    化的动作序列；语义网络；以及利用逻辑或概率进行推理。

    接下来，我们对上述方法依次展开讨论(第4章描述了另一种知识

    表示形式，即神经网络)。基于规则的程序

    在基于规则的编程中，大量知识信念被表示为一套将条件与动作

    联系起来的“如果—则”(IF—THEN)规则集：如果满足这个条件，则

    进行那个动作。这种形式的知识表示利用了形式逻辑[埃米尔·珀斯特

    (Emil Post)的“产生式”系统]。但是人工智能先驱艾伦·纽厄尔

    (Allen Newell)和赫伯特·西蒙(Herbert Simon，又名司马贺)通常认

    为它是人类心理学的基础。

    条件和动作都可能很复杂，规定的内容可能是几个或多个命题的合

    取(或析取)。如果同时满足几个条件，则包含最多命题的合取被赋予

    优先级。所以，“如果目标是制作烤牛肉和约克郡布丁”将优先于“如果

    目标是制作烤牛肉”，而在条件中增加“和三种蔬菜”又优先于“如果目标

    是制作烤牛肉和约克郡布丁”。

    基于规则的程序不提前规定每一步的顺序。相反，每条规则都在等

    待被其条件触发。尽管如此，这类系统可以用来做规划。如果不能做规

    划，那么它们在人工智能方面就只能发挥有限的作用。但是它们的规划

    方式不同于最古老、最为人们熟悉且最常用的编程形式(有时称为“执

    行控制”)。

    在能进行执行控制的程序(如GPS和逻辑理论机，详见第1章)

    中，规划被明确表示。程序员按照严格的时间顺序，规定一个寻找目标

    的指令序列，指出哪一步该执行哪一条指令：“做这个，然后去做那

    个；然后看看X是否为真；如果是真，就做这个事；如果不是，就做那

    个事。”

    “这个事”或“那个事”有时是一条设置某个目标或子目标的明确指

    令。例如，机器人如果有离开房间的目标，那么可能指示该机器人设置

    开门的子目标(原文如此)；接下来，如果检查门当前状态的结果显示

    门将被关闭，则设置抓握门把手的子次目标(人类蹒跚学步者可能需要

    更低级的子次目标——即让成年人抓住自己够不着的门把手，并且如果

    婴儿要做到这一点，可能需要在更低级别设定几个目标)。

    基于规则的程序也可以用来解决如何逃离房间的问题。然而，规划层级不会被表示为按时间顺序排列的明确步骤，而是表示为构成系统

    的“IF—THEN”规则集合中所隐含的逻辑结构。某一条件可能要求已经

    建立了这样一个目标(IF你想打开门，而且你不够高)。同样，动作可

    以包括设置一个新目标或子目标(THEN找一个成人)。更低级的目标

    将自动激活(IF你想要求一些人做一些事，THEN设置接近他们的目

    标)。

    当然，程序员必须列入相关的IF—THEN规则(上述案例中指的是

    涉及门和门把手的规则)。但是，他们不需要预期这些规则的所有潜在

    逻辑含义(这是一把“双刃剑”，因为潜在的不一致可能在很长一段时间

    都无法被发现)。

    被激活的目标子目标被贴在中央“黑板”上，可供整个系统访问。显

    示在黑板上的信息不仅包括被激活的目标，还包括感知输入和当前处理

    的其他方面(该想法不仅影响了一个意识神经心理学的前沿理论，还影

    响了以它为基础的意识人工智能模型，详见第6章)。

    基于规则的程序广泛应用于20世纪70年代早期出现的先驱“专家系

    统”。这些系统包括：MYCIN系统——在人类医生鉴定感染性疾病和开

    抗生素药物时提建议；还有树枝状演算法(DENDRAL)——对有机化

    学中某一特定范围内的分子进行光谱分析。例如，做医疗分析的计算机

    咨询专家系统MYCIN，它的诊断方法是将症状病人本身的身体状况

    (条件)与诊断结论建议相匹配，以便继续检测或开处方(动作)。

    这些程序是人工智能远离“从一般化走向专门化之梦”的第一步，同时为

    实现埃达·洛夫莱斯的梦想迈出了第一步——机器制造科学之梦(见第1

    章)。

    由于基于规则的知识表示，程序能够被逐步建立，因为程序员或者

    强人工智能系统本身可增加对域的了解。新规则可以随时添加。没有必

    要从头重新编写程序。但是有一个棘手的问题，即如果新规则与旧规则

    逻辑冲突，系统将不会总是做它应该做的事，甚至可能和它应该做的事

    相去甚远。在处理一小组规则时，这些逻辑冲突很容易被避免，但是如

    果系统较大，它们就很难被识破。

    20世纪70年代，新IF—THEN规则在与人类专家不断对话的过程中

    得到，它们被要求解释自己的决定。今天，尽管许多规则不是来自有意

    识的内省，但这些规则更高效。现代专家系统(今天很少使用的术语)

    应用范围广，从大型科学研究和商业程序到手机上小的应用程序。由于受益于其他形式的知识表示，许多系统超过旧系统，如统计和专用视觉

    识别或大数据的使用(见第4章)。

    在某些狭窄领域中，这些程序可以帮助甚至取代人类专家。有些超

    越了上述领域的世界翘楚。近四十年前，在诊断大豆疾病的时候，一个

    基于规则的系统比最权威的专家还准确。如今，用它来帮助科学、医

    学、法律甚至服装设计领域专业人士的例子不胜枚举(这不完全是好

    事，详见第7章)。框架、词向量、脚本、语义网络

    其他常用的知识表示方法包含个体概念，而不是整个领域(如医学

    诊断或服装设计)。

    例如，可以通过规定分层数据结构(有时称为“框架”)告诉计算机

    什么是房间。它将一间房表示为有地板、天花板、墙壁、门、窗户和家

    具(床、浴缸、餐桌……)。真实的房间具有不同数量的墙壁和门窗，因此可在框架中的“插槽”里填充特定数字，并提供缺省赋值(四道墙、一扇门和一扇窗)。

    计算机可以使用这类数据结构找到相似类、回答问题、参与对话、创作或理解故事。它们是CYC[1]

    (encyclopedia，即百科全书)的基

    础：一个试图表示所有人类知识的大胆尝试。有人甚至说这个想法是痴

    人说梦。

    然而，框架也可能造成误导。例如，缺省赋值就有诸多问题(有些

    房间没有窗户，开放式的房间没有门)。更糟糕的情况是：该如何表示

    下落或溢出这样的日常概念？符号人工智能这样表示“朴素物理学”的常

    识性知识：构造对事实进行编码的框架，如未支撑的物体会下落，但也

    有例外——氦气球就不会下落。考虑清楚这类情况是一项永无止境的任

    务。

    在一些利用最新技术处理大数据的应用中，单个概念可能被表示为

    一个簇或“云”，由成百上千个偶尔相关的概念组成(概念对之间的相关

    性概率各不相同，详见第3章)。类似地，概念现在可以用“词矢量”而

    不是单词来表示。此处的语义特征生成许多不同概念并连接各个概念，由(深度学习)系统发现，可用来预测接下来的词——例如，在机器翻

    译中的运用。然而，这些表示用在推理或谈话中的时候，不像经典框架

    那么经得起检验。

    有些数据结构(称为“脚本”)表明熟悉动作的顺序。例如，哄小孩

    子睡觉通常要做以下动作：盖被子、读故事、唱首摇篮曲、打开小夜

    灯。这样的数据结构既可用来问答问题，也可用来提问题。如果妈妈省掉打开小夜灯的动作，就会出现这样的问题，如“为什么”以及“接下来

    发生了什么”，换句话说，这里有故事开始的缘由。因此，这种形式的

    知识表示被用于自动书写故事，也正是和人类能正常交谈的“陪护”计算

    机所需要的知识表示形式(见第3章)。

    概念的另一种知识表示形式是语义网络(这些是集中式网络，见第

    4章)。20世纪60年代，罗斯·奎利恩(Ross Quillian)率先提出了几个

    延伸示例(例如WordNet

    [2])作为人类联想记忆的模型，现在属于公共

    数据资源。语义网络通过以下方法连接概念：如同义、反义、从属、上

    位、部分—整体这样的语义关系；以及将真实的世界知识比作语义学的

    联想连接(见第3章)。

    语义网络可能增加为音节、初始字母、语音学和同音异义词编码的

    连接，来表示概念和词。金·宾斯泰德(Kim Binsted)的JAPE和格雷姆·

    里奇(Graeme Ritchie)的STAND UP在使用这种网络，它们基于双关

    语、解释和变换音节来制造笑话(9种不同类型)。例如，问：什么叫

    沮丧的火车？答：低压机车；问：羊和袋鼠生出来的宝宝是什么？答：

    一位毛茸茸的跳高运动员。

    注意：语义网络与神经网络不同。我们将在第4章中看到，分布式

    神经网络以迥然不同的方式表示知识。在神经网络中，单个概念不是用

    精心定义的联想网络中的单个节点来表示，而是用整个网络上活动的变

    化模式来表示。这类系统可以容忍冲突迹象，因此不需要考虑保持逻辑

    一致性的问题(将在下一节描述)。但它们无法进行精确推理。不过，这种知识表示类型十分重要(并且是实际应用的一个重要基础)，值得

    我们用一个单独的小节对其展开讨论。

    注释

    [1]CYC是一个致力于将各个领域的本体及常识知识综合地在一起，并在此基础

    上实现知识推理的人工智能项目。其目标是使人工智能的应用能够以类似人类推理

    的方式工作。这个项目是由道格拉斯·莱纳特(Douglas Lenat)在1984年设立的，由Cycorp公司开发并维护。——译者注

    [2]WordNet是一个由普林斯顿大学认识科学实验室在心理学教授乔治·A.米勒

    的指导下建立和维护的英语字典。开发工作从1985年开始，从此以后该项目接受了

    超过300万美元的资助(主要来源于对机器翻译有兴趣的政府机构)。由于它包含了语义信息，所以有别于通常意义上的字典。WordNet根据词条的意义将它们分组，每

    一个具有相同意义的字条组称为一个synset(同义词集合)。WordNet为每一个

    synset提供了简短、概要的定义，并记录不同synset之间的语义关系。——译者注逻辑和语义网

    如果一个人的最终目标是强人工智能，逻辑似乎是一种超级不错的

    知识表示。因为逻辑普遍适用。原则上来说，相同的表示(相同的逻辑

    符号主义)可以用来表示视觉、学习和语言等，当然也适用于由此产生

    的任意集成。此外，它提供了很有说服力的定理证明方法，以处理信

    息。

    所以，早期人工智能中的知识表示方式首选谓词演算。这种逻辑比

    命题逻辑的表示能力更强，因为它可以“进入句内”来表达句子的意思。

    以“这个商店有一顶适合所有人的帽子”这个句子为例。谓词演算可以清

    楚区分这句话三种可能的意思：“对于每个人来说，这家商店有一顶适

    合他们的帽子”；“在这家商店有一顶尺寸可调的帽子，适合任何人”；

    和“在这个商店有一顶帽子(假定被折起来)足够大，可以同时适合所

    有人。”

    对许多人工智能研究人员来说，谓词逻辑仍然是首选。例如，CYC

    的框架就是基于谓词逻辑。组合语义学中的自然语言处理(NLP)表示

    也同样如此(见第3章)。我们延伸谓词逻辑来表示时间、原因或职责

    道德。当然，这取决于某人已经提出了这些形式的模态逻辑，但这并非

    易事。

    然而，逻辑也有缺点。

    第一个缺点包含组合爆炸。人工智能中广泛使用的逻辑定理证明方

    法是消解法。利用这种方法得出的结论可能本身是正确的，但它与目标

    结论并不相关。启发法用来指导和限制结论，并决定何时停止证明(魔

    法师的弟子[1]

    做不到)。但这些方法也并非万无一失。

    第二个缺点是消解定理证明，假定非—非—X就意味着X。这个观

    点大家并不陌生：反证法就是首先假设某命题不成立(对原命题的结论

    进行否定)，然后推理出明显矛盾的结果，从而下结论说假设不成立，原命题得证。如果被推理的域被完全理解，那么这在逻辑上是正确的。

    但是，使用内置消解程序(例如许多专家系统)的用户通常假定找不出矛盾来，这就意味着不存在矛盾，即所谓的“失败则否定”。这往往是一

    个错误。在现实生活中，证明某事是假，和不能证明它是真完全不是一

    回事(如在猜测伴侣是否欺骗你的时候)。因为还有许多不知道的证据

    (潜在假设)。

    第三个缺点是，在经典(“单调推理”)逻辑中，一旦某事被证明是

    真，那它永远是真。在现实中，情况并不总是如此。我们可以有充分理

    由认为X为真(也许它是一个缺省赋值，甚至是通过仔细论证或从有说

    服力的证据中得出的结论)，但后来可能会发现X不再是真，或者从最

    开始就不是真。如果是这样，我们也必须相应地改变自己的认知。对于

    基于逻辑的知识表示，这说起来容易做起来难。许多研究者受到麦卡锡

    的启发，已经试图提出可以容忍不断变化的真值的“非单调推理”逻辑。

    类似地，人们已经定义了各种“模糊”逻辑，其中的语句能够被标记为可

    能不可能或者未知，而不是真假。即便如此，防止单调性的可靠方法

    仍未找到。

    有些人工智能专家在研究基于逻辑的知识表示法时，基本上都是越

    来越想找到知识或意义的本元。但他们不是先驱：麦卡锡和海斯

    (Hayes)在其合著的论文《从人工智能立场中衍生出来的某些哲学问

    题》(Some Philosophical Problems from an AI Standpoint)中就在做这

    件事。大家对这篇文章讨论的很多问题都不陌生：从自由意志到非真实

    条件句。这些问题包含宇宙的基本本体论：状态、事件、属性、变化、动作……什么？

    除非某人在内心深处就笃信形而上学(这种激情十分罕见)，不然

    为什么要关心本体这种东西？为什么现在对这些神秘问题的探讨越来越

    多？很显然，如果试图设计强人工智能，就必须考虑知识表示能够使用

    何种本体。我们在设计语义网的过程中也要考虑这些问题。

    语义网与万维网不同。自20世纪90年代以来，我们就有了万维网。

    语义网甚至不是技术发展的最新水平：它是未来的技术发展水平。如果

    存在语义网，而且当它真的存在时，机器驱动的联想搜索将通过机器的

    理解力得到改进和补充。这样一来，应用程序和浏览器就可以访问互联

    网上的任何信息，并在推理问题的过程中合理整合不同内容。这项艰巨

    任务由蒂姆·伯纳斯-李爵士(Sir Tim Berners-Lee)指导，这项任务甚至

    可以说是苛求，不仅需要在硬件和通信基础设施方面取得巨大的工程进

    步，还需要网络漫游程序加深理解它们正在做什么。谷歌、一般的NLP程序等这类搜索引擎通常可以找到单词或文本之

    间的关联，但不存在理解力。这里不是指哲学上的理解力(见第6

    章)，而是指一种经验性的东西，是实现强人工智能的另一个障碍。尽

    管有一些例子听起来很诱人，但终究是骗人的，如IBM公司的沃森、Siri和机器翻译(都将在第3章中讨论)，今天的计算机并不知道它

    们“读”或“说”的东西是什么意思。

    缺乏理解力的体现之一是各程序之间不能彼此交流(相互学习)，因为程序不同，知识表示形式或基本本体也不同。如果语义网研究人员

    可以找到一种通用的本体论，那么让机器理解其接收的东西可能不再只

    是空想。因此，在20世纪60年代，人工智能领域提出的形而上学的问

    题，如今因其实用性而变得非常重要。

    注释

    [1]《魔法师的弟子》(The Sorcerer's Apprentice)是德国诗人歌德在1797

    年创作的一首诗。诗的内容大致是：一位老魔法师离开店铺前，给弟子留了一堆

    活。这位弟子在老魔法师离开之后，因疲于用桶提水，所以就对一把扫帚施了魔

    法，但是他并没完全熟练掌握这种魔法。可想而知，接下来地板上到处都是水。而

    这位弟子也意识到自己无法让扫帚停下来，因为他根本不知道怎么让它停。——译

    者注计算机视觉

    今天的计算机不能像人类一样理解视觉图像(同样，这是一种经验

    性的东西：强人工智能是否可以运用有意识的视觉现象学，将在第6章

    中讨论)。

    自1980年以来，有关人工智能视觉的各种知识表示研究大多基于心

    理学，特别是大卫·马尔(David Marr)和詹姆斯·吉布森(James

    Gibson)的理论。马尔注重构建3D表示(通过反转图像形成的过程)，而不是用它们执行动作。吉布森强调视觉可供性对动作的支持，即一些

    视觉线索，它们能提示一条路或一根承重树枝，甚至是友好的或敌对的

    物种成员。尽管有了这些心理学研究基础，但是目前的视觉程序仍然严

    重受限。

    不可否认，计算机视觉已经取得了显著成就，例如面部识别的成功

    率达到98%，阅读草书笔记，注意到停车场内某人的可疑行为(一直站

    在车门边不走)，甚至能比人类病理学家更准确地鉴定出一些病变细

    胞。面对这些成功，人们开始变得焦虑。

    但是程序(很多是神经网络，见第4章)通常必须准确地知道它们

    想要什么，例如，一张脸不能倒置、不能侧摆、一点也不能被别的东西

    挡住(98%的成功率)，而且还得是在特定的光亮下。

    “通常”这个词很重要。2012年，谷歌实验室整合了1000台大型(16

    核)计算机，建成了一个巨大的神经网络，拥有10亿多个联结。然后，由研究人员将来自YouTube视频的1000万张随机图片放入这个具备深度

    学习能力的网络中。该网络没有被告知要找什么，图像也没有被标记。

    然而，三天后，其中一个单元(一个人工神经元)学会了对一张猫脸图

    像和一张人脸图像作出反应。

    这让人印象深刻吧？嗯，是的。这也很吸引人：研究人员很快想到

    了大脑中的“祖母细胞”。自从20世纪20年代以来，神经科学家对于是否

    存在祖母细胞的观点各持己见。如果说它们存在，那就表示大脑中有些

    细胞(单个神经元或小组神经元)当且仅当察觉到祖母或某些特定特征

    的时候会被激活。显然，谷歌的猫脸识别网络情况类似。而且，虽然猫脸必须完整且摆正，但其大小可以改变，也可以出现在200×200阵列的

    不同位置。研究人员训练精心预选的(但未标记)人脸图像(包括侧

    脸)上的系统，由此发现某一单元偶尔能够辨别避开取景器的脸。

    此类成就不久将纷纷涌现，甚至更加令人惊叹。多层网络已经在面

    部识别领域取得了巨大进步，有时还可以找到图像最突出的部分，并给

    出相应的语言描述(例如，“在户外市场购物的人”)。最近发起的“大

    规模视觉识别挑战赛”每年都在增加可识别视觉种类，并减少对相关图

    像的约束(例如，对象的数量和遮挡)。然而，这些深度学习系统仍未

    克服旧系统的一些弱点。例如，猫脸识别器这类系统并不理解什么是

    3D空间，也不知道“侧脸”或遮挡的真实含义，甚至是为机器人设计的视

    觉程序对它们也只有一丁点了解。

    再看看机遇号(Opportunity)和好奇号(Curiosity)，这两种火星

    漫游机器人分别于2004年和2012年登陆。它们依赖于特殊的知识表示

    法：针对其可能面临的3D问题量身打造的启发法。它们无法在一般情

    况下寻路或操控对象。有些机器人模拟有生命的视觉，在这个过程中身

    体的运动可提供有用信息(因为它们系统地改变视觉输入)。但这些机

    器人可能忽略一些可行路径，也不知道自己的手能拿哪些陌生的东西。

    在本书出版之际，有些机器人可能已经具备上述能力了，但它们还

    是会受限。例如，它们理解不了“我不能把那个东西拿起来”这句话的意

    思，因为它们根本不知道什么叫“可以”和“不可以”，它们的知识表示也

    有可能仍然不具备必要的模态逻辑。

    有时候，视觉能够忽略3D空间，比如阅读笔迹。在许多高度受限

    的2D任务中，计算机视觉比人类视觉犯的错误要少。的确，有时候人

    眼无法识别的复杂模式(例如，X射线中的模式)，计算机视觉能够采

    用高精尖的非自然技术来分析(同样，3D计算机视觉常常利用非自然

    方式取得显著成就)。

    但是，即使是2D，计算机视觉也有局限。尽管不乏研究类比表示

    或图像表示的工作，但是人工智能在解决问题时无法以可信赖的方式使

    用图表，而我们在几何推理中或在封皮背面绘制抽象关系时可以做到这

    一点(同样，心理学家也还不知道做到后者的方法)。

    总之，大多数人类视觉的成就优于今天的人工智能。通常，人工智

    能研究人员不清楚要问什么问题。以“整齐折叠光滑的真丝礼服”为例。没有机器人可以做到这一点(虽然我们可以一步一步地指导它们如何折

    叠长方形毛巾)。还有穿T恤：必须先把头套进去，而不是先穿袖子。

    但是这是为什么？在人工智能中几乎不存在这种拓扑问题。

    难道这意味着人类水平的计算机视觉就无法实现吗？不是。不过要

    做到这一点，比大多数人想得更困难。

    因为描述视觉的特性就是一块难啃的“硬骨头”。所以，它是第1章

    所列事实的一个特例：人工智能已经告诉我们，人脑的丰富程度和微妙

    程度超出了心理学家之前的猜想。事实上，这也是我们从人工智能中学

    到的最重要的一课。框架问题

    无论在什么样的领域中，要找到合适的知识表示都很难，部分原因

    是需要避免框架问题(注意：虽然在用框架作为概念的知识表示时，也

    出现过这个问题，但是此处“框架”的含义不一样)。

    正如麦卡锡和海斯最初定义的那样，框架问题指假定(由机器人规

    划时)一个动作仅会引起这些改变，然而它也可能会导致那些改变。一

    般来说，只要人类默认的含义被计算机忽略，框架问题就会出现，因为

    这些含义没有被阐明。

    经典案例就是猴子和香蕉的问题，其中的问题解决者(可能是机器

    人的人工智能规划程序)假定在框架外不存在相关事物(见图2—1)。图2—1 猴子和香蕉问题：猴子怎么得到香蕉

    图注：解决这个问题的一般方法是：假定相关的“世界”是虚线框

    架内表示的世界(虽然没有明确说明)。换句话说，这个框架之外不存

    在什么东西能让它内心发生重大变化，它会继续移动箱子。

    资料来源：摘自玛格丽特·博登1977年所著的《人工智能和自然

    人》(Artificial Intelligence and Natural Man)一书第387页。

    我自己最喜欢的例子是：假设一位20岁的男士可以在一个小时内采

    摘10磅黑莓，一位18岁的女士可以采摘8磅，那么他俩要是一起去采摘

    黑莓，一共能摘多少？当然，“18磅”不是一个合理的答案。有可能超过

    18磅(因为他们都想炫耀)，也有可能少于18磅。我是在五十年前第一

    次听说这个例子的，不过它在当时更具代表性。但为什么答案不确定

    呢？这里涉及什么样的知识？强人工智能是否能克服这种看似普通的算术事实？

    框架问题产生的原因是人工智能程序没有人类的关联感[1]

    (见第3

    章)。如果能知道每个动作可能带来的所有后果，那么框架问题就可以

    避免。有些技术或科学领域已经做到了这一点(所以人工智能科学家有

    时会声称框架问题已经被解决。或者，如果他们特别严谨，会说“或多

    或少”得到了解决)。然而，一般来说，这个问题并没有解决，这也是

    人工智能系统缺乏常识的症结所在。

    简而言之，框架问题就潜伏在我们周围，是实现强人工智能的主要

    障碍。

    注释

    [1]如无法像人一样知道某些事与自己手头上的事情相关联。——译者注智能体和分布式认知

    一个人工智能体(Agents)是一个独立的(“自主的”)程序，有时

    可以比作膝盖反射，有时可以比作一个微型大脑。电话应用程序或拼写

    校正器可以称为智能体，但一般情况下又不是，因为不同的智能体之间

    通常会进行合作。它们会利用自己十分有限的智能与其他智能体合作或

    并肩达到单凭自己的力量无法实现的目的。而且，智能体之间的相互作

    用与智能体一样重要。

    有些智能体系统的组织形式是分层控制的，可以说是统治者和被统

    治者。许多系统则是分布式认知的典范，包括无分层控制结构的合作

    (因此有了上面两种说法：“合作”和“并肩”)。没有中心规划，没有自

    上而下的影响，也就没有单个智能体处理所有相关知识的情况。

    从自然角度来看，分布式认知的例子有：蚂蚁寻迹、船舶导航和人

    类的大脑。蚂蚁寻迹来源于很多蚂蚁个体的行为，它们在走路时会自动

    滴落(并跟随)化学物质。类似地，船舶的导航和操纵来自船员的互动

    活动，甚至是船长也不一定具备所有必要的知识，而且一些船员具备的

    知识确实少得可怜。即使是单个大脑也包含分布式认知，因为它集成了

    许多有感知的、激发性的和有情感的子系统(见第4章和第6章)。

    从人工角度来看，分布式认知的例子包括：神经网络(见第4

    章)；人类学家的船舶导航计算机模型；情境机器人学、蜂群智能和群

    体机器人学方面的人工生命研究(见第5章)；金融市场(智能体是银

    行、对冲基金和大股东)的符号人工智能模型；LIDA的意识模型(见

    第6章)。

    分布式认知的意识也有助于人机交互设计，例如协作式工作场所和

    计算机接口。因为如伊冯·罗杰斯(Yvonne Rogers)所言，它阐明

    了“人、人工制品和技术系统之间复杂的相互依赖性。在运用传统认知

    理论时，往往会忽略这些要素”。

    那么很显然，人类水平的强人工智能包含分布式认知。机器学习

    人类水平的强人工智能还包括机器学习。然而，这并不是说要和人

    类一样。该领域的研究始于心理学家进行的有关概念学习和强化方面的

    工作。不过它现在取决于可怕的数学技术，因为所使用的知识表示都包

    含概率论和统计学可以说从心理学入手的研究已经远远落后了。一些现

    代机器学习系统与人类头部内可能发生的事情之间少有或甚至没有相似

    之处。但是，贝叶斯概率在该人工智能领域研究中的运用之广，不亚于

    最近的认知心理学和神经科学理论。

    今天的机器学习超级赚钱。它不仅用于数据挖掘，还用于处理大数

    据，因为超级计算机每秒可以做千万亿次计算(见第3章)。

    一些机器学习使用神经网络，但是大多数都依赖符号人工智能，并

    辅以统计算法。事实上，做事情的是统计学，而GOFAI是“管理者”，引

    导工人去工作场所。因此，一些专业人士把机器学习看作计算机科学或

    统计学，而不是人工智能。不过这并没有明确的界限。

    有些计算机科学家故意排斥麦卡锡最先提出的“人工智能”的概念，认为其哲学含义有问题(见第6章)。也有些科学家有意避而不谈，因

    为他们不喜欢大多数人工智能研究属于实验性研究，而且相对来说不成

    体系。

    机器学习分三种类型：监督式学习、非监督式学习和强化学习(这

    种划分源于心理学，可能还涉及不同的神经生理机制，跨物种的强化学

    习包含多巴胺)。

    在监督式学习中，程序员“训练”系统，方法是为一系列输入(标记

    的示例和无标记的示例)定义一组希望得到的结果，并且不断反馈该系

    统是否完成所希望的结果。学习系统对相关特征作出假设。只要系统分

    类出错，它就相应地修正自己的假设。具体的错误消息至关重要(不只

    是反馈系统出错了)。

    在非监督式学习中，用户不提供希望得到的结果或错误消息。学习

    由原则驱动，而原则是指共同发生的特征产生它们以后将共同发生的期望。非监督式学习可以用来发现知识。程序员不需要知道数据中有什么

    模式分类，系统自己会找到它。

    强化学习受奖励和惩罚所驱动：反馈信息告诉系统它刚刚做的事情

    是好还是坏。通常，强化不只是二进制，还是由数字表示，如视频游戏

    中的分数。“它刚刚做了什么”可能是单个决定(例如游戏中的某个步

    骤)，也可能是一系列决定(例如国际象棋走到最后将军了)。在一些

    视频游戏中，每动一步，数字分数都会更新。在极其复杂的情况下，例

    如象棋，仅在许多决定完成之后才能得到成功或失败的信号，用于信用

    分配的某一程序识别出那些最可能带来成功的决定(进化人工智能是一

    种强化学习形式，其中成功由适应值函数监控，详见第5章)。

    符号机器学习通常假定(并不完全正确)学习的知识表示必须包含

    某种形式的概率分布。许多学习算法假定(通常是错误的)数据中的每

    个变量相互独立，具有相同的概率分布。此i.i.d.假设是许多数学概率理

    论的基础，而后者又是许多算法的基础。数学家采用i.i.d.假设，让数学

    运算变得更简单。同样，在人工智能中使用i.i.d.可以简化搜索空间，这

    样易于问题的解决。

    然而，贝叶斯统计处理条件概率，其中的内容或事件并不独立。这

    里的概率取决于与域相关的分布式现象。这种形式的知识表示不仅更加

    实际，而且要是出现新的现象，概率还可以发生变化。贝叶斯技术在人

    工智能以及心理学和神经科学中的作用不断凸显。有关“贝叶斯大脑”的

    一些理论(见第4章)通过使用非i.i.d数据，去驱动和微调在知觉和运动

    控制中的非监督式学习。

    因为有各种各样的概率理论，所以有许多算法都适用于不同类型的

    学习和不同数据集。例如，接受i.i.d.假设的支持矢量机(Support Vector

    Machine)广泛用于监督式学习，特别是如果用户缺乏该域的专业先验

    知识的时候。如果不计特征的顺序(如在搜索单词而不是短语时)，则

    可以用“词袋”算法。如果不用i.i.d.假设，贝叶斯统计(“亥姆霍兹机

    器”)可以向分布式数据学习。

    大多数研究机器学习的专家使用现成的统计方法。这些方法的发起

    者备受行业好评：Facebook最近聘用了支持矢量机的创建者；在2013年

    和2014年，谷歌公司聘用了几位深度学习的重要发起者。

    基于多层网络的深度学习(见第4章)是一大新进步，前景光明。利用深度学习，输入数据中的模式能在各个层级中被识别出来。换句话

    说，深度学习发现多层知识表示，例如从像素到反差检测器，到边缘检

    测器，到形状检测器，到对象部分，以及到对象。

    谷歌研究YouTube时出现的猫脸检测器就是一个很好的例子。还有

    最近《自然》(Nature)杂志报道某强化学习程序(“DQN”算法)已经

    学会了玩经典的Atari 2600 2D游戏。虽然这个程序的输入只有像素和游

    戏得分(并且提前知道的只有每场比赛的动作数量)，但是在49场比赛

    中，它有29场超过了75%的人类学习者，并在22场比赛中胜过专业游戏

    测试人员。

    这一成就的进步空间有多大还有待观察。虽然DQN算法偶尔能找到

    最佳策略，如按时间排序的动作，但如果规划游戏需要更长一段时间，那DQN算法就不能控制游戏。

    未来的神经科学可能会告诉人们如何改进这个系统。当前版本的

    DQN借鉴了休伯尔—威泽尔(Hubel-Wiesel)的视觉受体——视觉皮层

    中的细胞，只对运动或特定方向的直线作出回应(这也没什么大不了

    的，休伯尔—威泽尔的受体还启发了伏魔殿——一种学习模式(见第1

    章)。更奇怪的是，此版本的DQN设计还借鉴了海马睡眠期间的“经验

    重放”行为。DQN系统与海马一样，存储了过去的样本或经验，并在学

    习期间快速重新激活这些样本和经验。这个特征十分关键，设计师指

    出，如果特征出现问题，那系统的性能将“严重恶化”。通用系统

    Atari游戏玩家总是能振奋人心，上《自然》杂志也无可厚非，其中

    一部分原因是它又朝着强人工智能迈进了一步。这个算法在没有使用手

    工知识表示的情况下习得大量技能，完成包含高维感官输入的任务。

    然而(如本章开头所述)，完整的强人工智能可以完成更多任务。

    打造一位高性能的人工智能“专家”已经很困难，打造一个人工智能“通

    才”更是难上加难(深度学习不是答案：它的狂热追随者承认，需要“新

    范式”将其与复杂推理结合，而后者是“我们没有一点头绪”的学术密

    码)。所以，大多数人工智能研究人员放弃早期设想，转向各色细分任

    务，他们取得的成就通常让人惊叹。

    也有强人工智能先驱们始终保持着雄心壮志，如纽厄尔和约翰·安

    德森(John Anderson)。他们分别于20世纪80年代初提出了SOAR和

    ACT-R这两个系统。三十年过去了，这两个系统仍在不断完善(和使

    用)。然而，它们过度简化了任务，只关注人类的一小部分能力。

    1962年，纽厄尔的同事西蒙研究了一只蚂蚁在崎岖地面上行走的之

    字形路径。他说，蚂蚁的每个动作都是蚂蚁对其当时感知的情境作出的

    直接反应(这是情境机器人学的精髓，详见第5章)。十年后，纽厄尔

    和西蒙所著的《人类问题求解》(Human Problem Solving)一书将人类

    的智力描述成和蚂蚁的智力类似的东西。根据他们的心理学理论，知觉

    和微观运动行为由在问题解决期间存储在记忆中或新建的内部表示(IF

    —THEN规则或“产生式规则”)来补充。

    他们说：“被视为行为系统的人类很简单。”但是，突然出现的行为

    复杂性十分重要。例如，他们表示，只包含14条IF—THEN规则的系统

    能够解决算式谜问题(例如在这个和式中，将字母映射到数字0到9：

    DONALD+GERALD=ROBERT，其中D=5)。有些规则处理目标或子目

    标的组织问题；有些规则指挥注意力(指向特定的字母或列)；有些规

    则回想以前的步骤(中间结果)；有些规则辨识假启动；还有些规则回

    溯，以从这些假启动中恢复。

    他们认为，算式谜是所有智能行为计算架构的典范，所以该心理学方法适合“通才”人工智能。1980年，纽厄尔与约翰·莱尔德(John

    Laird)和保罗·罗森布鲁姆(Paul Rosenbloom)开发了成功导向型成就

    实现系统(Success Oriented Achievement Realized，以下简称SOAR)。

    总的来说，它是一个认知模型，它的推理整合了知觉、注意力、记忆、联想、推理、类比和学习。像蚂蚁一样的(情境)反应结合了内在的深

    思熟虑。事实上，深思熟虑往往带来反射性反应，因为以前使用过的子

    目标序列可以“分块拼成”一个规则。

    事实上，SOAR并不能模拟认知的所有方面。人们认识到了一些缺

    陷以后，就不断将其完善。今天的SOAR有很多用途，从医疗诊断到工

    厂调度等。

    安德森的认知架构思维的自适应控制系统(Adaptive Control of

    Thought，以下简称ACT-R)是混合系统，它结合了产生式规则系统和

    语义网络(见第4章)。这些程序通过识别环境中的统计概率，模拟联

    想记忆、模式识别、意义、语言、问题求解、学习、图像和(自2005年

    以来)感知运动控制。ACT—R系列主要是科学人工智能领域中的一次

    操练。虽然商业机器学习已经不再关注心理学(机器学习的起源)方面

    的研究，但是ACT—R仍在继续(最近还包含神经科学，例如，与“模块

    化的”大脑系统类似的IF—THEN规则集)。

    ACT-R系统的一个重要特征是整合了程序性知识和陈述性知识[1]。

    有人可能不知道如何在几何证明中运用欧几里德定理，但他可能知道这

    个定理正确。ACT-R系统通过构造数百个新的产生式规则来学习如何应

    用一个命题性事实，这些新规则可以控制它在不同情况下的使用。它学

    习哪些目标、子目标和子次级目标……在哪些条件下是相关的，某一特

    定动作在不同情况下会导致哪些结果。总之，它通过做事来学习，并且

    它(像SOAR)可以将有序执行的几条规则整合到一条规则中。这就与

    人类专家和新手解决“同一个”问题的情况类似：一个是不假思索，一个

    是煞费苦心。

    ACT-R系统有多种应用。它的数学导向(一款智能家教系统)提供

    个性化反馈，包括相关领域的知识以及问题求解的目标子目标结构。

    得益于定量分块，使数学导向的建议粒度随着学生的学习进度而不断变

    化。其他应用有NLP、人机交互、人类记忆力和注意力、驾驶和飞行以

    及视觉网络搜索。SOAR和ACT是强人工智能时代另一个早期尝试——道格拉斯·莱纳

    特的CYC的“同辈人”。它是一款符号人工智能系统，于1984年被推出，目前仍在升级当中。

    到2015年，CYC不仅包含62000条“关系”，能够链接其数据库中的

    概念，还包括这些概念之间的数百万条链接。这些关系包括存储在大型

    语义网络(见第3章)中的语义和事实关联，以及朴素物理学上的无数

    事实——所有人类具备且与物理现象相关的非形式化知识(例如丢弃和

    溢出)。系统同时使用单调和非单调逻辑以及概率来推论数据(目前，所有的概念和关系都是手写编码，但是贝叶斯学习理论不止于此。因

    此，CYC能够自己从互联网上获得知识)。

    几家美国政府机构都在使用CYC，包括美国国防部(例如监测恐怖

    团体)和美国国家卫生研究院，还有一些大型银行和保险公司。CYC的

    较小版本OpenCyc作为各种应用程序的背景资源已被公开发布，人工智

    能研究人员现在可获得更简洁的版本(ResearchCyc)。虽然OpenCyc定

    期更新(最近一次在2014年)，但它只包含CYC数据库的一小部分数据

    和一小部分推理规则。不过完整(或接近完整)的系统最终将在市面上

    出售。但是，如果不采取特别措施，它可能会落入坏人手中(见第7

    章)。

    莱纳特在1986年的《人工智能杂志》(AI Magazine)中将CYC描

    述为“使用常识性知识来克服脆弱性和知识获取瓶颈”。也就是说，CYC

    的主要任务就是解决麦卡锡预见的挑战。如今在模拟“常识”推理以

    及“理解”所处理的概念方面，它已经成为佼佼者(有些概念甚至连NLP

    程序也无能为力，详见第3章)。

    然而，它也有许多缺点。例如，不能很好地处理隐喻(虽然数据库

    包括许多亡隐喻)。它忽略了朴素物理学中各种不同的方面。它的NLP

    虽然在不断完善，但仍然有极大的进步空间。它尚未包含视觉。总之，就算它的目标是包罗万象，但现在确实不包含人类知识。

    注释

    [1]在认知心理学的知识学习的心理原理中，安德森将语文知识分为两类：一类

    为陈述性知识(declarative knowledge)，指事实性和资料性知识；另一类为程序

    性知识(procedural knowledge)，指按一定程序操作从而导致结果的知识。——译者注梦想复兴

    纽厄尔、安德森和莱纳特已经从人工智能这个舞台中消失了将近30

    年。然而，最近人们对强人工智能的兴趣又开始明显上升。2008年开始

    召开的人工智能年度会议，除了SOAR、ACT-R和CYC外，还出现了其

    他所谓的“通才”系统。

    2010年，机器学习的倡导者汤姆·米切尔(Tom Mitchell)带领卡内

    基梅隆大学机器学习研究团队开发了NELL系统(NeverEnding Language

    Learner，意为永不停止的语言学习者)。这种“常识”系统通过不停地

    (在写入时设定为5年)搜索网站以及通过接受公众的在线更正来构建

    自己的知识体系。它可以基于自己的(未标记的)数据完成简单推理，例如，运动员乔·布洛格斯(Joe Bloggs)在戴维斯队，所以他打网球。

    它从具有200个分类和关系的本体开始(例如，专家，是由于……)，5

    年后，它扩大了本体，并积累了9000万个候选可信度，每个都有自己的

    置信水平。

    坏消息是NELL系统并不知道你可以用字符串拉取对象，但不推送

    这些对象。事实上，所有强人工智能系统的推定常识都受到严重限制。

    臭名昭著的框架问题已经被“解决”了这种说法产生了严重误导。

    NELL系统现在有一个姐妹程序叫NEIL(Never-Ending Image

    Learner，意为永不停止的图像学习者)。有些部分视觉强人工智能将逻

    辑—符号知识表示与类推或图示表示相结合[亚伦·斯洛曼(Aaron

    Sloman)早在多年前就已经开始这项研究，但对它的理解仍然不明

    朗]。

    此外，斯坦福大学研究所在研究CALO(Cognitive Assistant that

    Learns and Organizes，意为学习和组织的认知助教)的过程中意外开发

    了Siri应用程序(见第3章)。2009年，苹果以2亿美元收购Siri。当前类

    似的活跃项目包括斯坦·富兰克林(Stan Franklin)的LIDA(我们将在第

    6章进行讨论)和本·格策尔(Ben Goertzel)的OpenCog，它们在丰富的

    虚拟世界中或向其他强人工智能系统学习事实和概念(目前LIDA和

    CLARION这两个“通才”系统侧重意识)。更近的一个强人工智能项目于2014年开始，旨在构建“机器人道德

    能力的计算架构”(见第7章)。除了上述困难，它还将必须面对许多与

    道德相关的问题。

    一个真正达到人类水平的系统将会面临更多问题。难怪强人工智能

    是如此地难以捉摸。缺失的方面

    如今几乎所有的“通才”系统都聚焦于认知。例如，安德森的目标是

    详细说明“认知心理学中的所有子领域是如何相互联系的”(“所有”子领

    域？虽然他讨论了运动控制，但他没有讨论有时在机器人学中起到重要

    作用的触摸或本体感知)。真正通用的人工智能还将包括动机和情感。

    一些人工智能科学家已经认识到了这一点。虽然马文·明斯基和斯

    洛曼都没有建立全脑模型，但都细致描述了整个大脑的计算架构。

    我们将在第3章中概述斯洛曼的MINDER焦虑模型。乔斯查·巴赫

    (Joscha Bach)借鉴了他的研究成果和迪特里希·多纳(Dietrich

    Dorner)的心理学理论，开发了MicroPsi——一种基于七种不同“动

    机”并在规划和动作选择中运用“情感”因素的强人工智能。它也影响了

    上述的LIDA系统(见第6章)。

    要实现真正的强人工智能，只做到这些还远远不够。明斯基的未来

    人工智能宣言——“走向人工智能”，既发现了障碍，也给出了承诺。许

    多障碍还有待克服。从第3章可以看到，人类水平的强人工智能仍然离

    我们很遥远。许多人工智能专业人士不同意这个观点。有人甚至说，强

    人工智能很快将成为超人工智能(ASI)——“S”指超人。与此同时，智

    人将淡出研究人员的视线(详见第7章)。03 语言、创造力和情感

    人工智能的一些领域似乎特别具有挑战性，如语言、创造力和情

    感。如果人工智能不能模拟它们，要实现强人工智能就好似做白日梦。

    无论就上述哪一方面而言，我们所取得的成就都早已超出了人们的

    想象。即便如此，一些困难仍然显著存在。这些典型的“人类”特征只是

    在一定程度上被模拟(人工智能系统是否能够具有真正的理解力、创造

    力或情感，我们将在第6章中讨论。我们在此关注的是人工智能系统是

    否有可能拥有它们)。语言

    无数的人工智能应用程序使用NLP(自然语言处理)。大多数程度

    关注的是计算机对呈现给它的语言的“理解”，而不是计算机自己创造语

    言。因为对于NLP而言，创造比接受更困难。

    其中的困难包括主题内容和语法形式。例如，我们在第2章中看

    到，熟悉的动作顺序(“脚本”)可能用作人工智能故事发生(哄孩子上

    床睡觉的母亲改变惯常动作)的缘由。这并不是说，背景知识表示就一

    定包含足够的人的动机，所以它不一定能使故事变得有趣。要就一家公

    司不断变化的财务状况写一份年度报告，买个系统就完事了，但是可以

    看出这个系统创造的“故事”非常无聊。计算机创作的小说和肥皂剧情节

    确实有——但是任何以细微的地方处理得好为评判标准的奖项往往都与

    它们无关(用人工智能进行翻译或总结人类创造的文本，得到的译文和

    总结在内容上可能更丰富，但还是因为源语文本是人类完成的)。

    至于语法问题，计算机创作的散文有时在语法上就不正确，而且通

    常很不恰当。人工智能对画圈打叉游戏(井字游戏)的描述能够包含从

    句或子从句结构，很好地讲述游戏的具体步骤。但是，我们也能充分理

    解画圈打叉游戏的概率和策略。不过，要人工智能清楚地描述很多人类

    故事中主角的一系列想法或动作就没那么容易了。

    再谈谈人工智能接受语言，有些系统十分简单，甚至让人觉得无

    聊：它们仅需要识别关键字(想想电子零售网站上的“菜单”)，或者预

    测字典里所列出的单词(想想在编辑短信时自动弹出的匹配词或句)。

    还有一些系统要复杂得多。

    有些系统需要识别语音：要么是单个词(如自动电话购物)，要么

    是连续语音(如实时电视字幕和电话窃听)。更有意思的是，后者的目

    标可能是挑选出一些特定词(如炸弹和圣战)，以此抓住整个句子的意

    思。这绝对是NLP：首先必须区分出单词本身，这些单词是由不同声音

    发出来的，而且可能带有不同地方的口音或外来口音(区分单词在印刷

    文本中是免费的)。深度学习(见第4章)已经促使语音处理技术取得

    了巨大进步。对整句的理解也有一些令人印象深刻的例子，如机器翻译；从大量

    自然语言文本中挖掘数据；总结报纸和期刊上的报道；以及回答一些自

    由提问(频繁用于谷歌搜索和iPhone的Siri应用程序)。这些系统真的

    可以欣赏语言吗？例如，它们能处理语法问题吗？

    在人工智能早期，人们认为语言理解需要解析句法。于是研究人员

    花了很大力气去编写程序，以实现这一目标。20世纪70年代初期，特里

    ·维诺格拉德(Terry Winograd)在麻省理工学院写的SHRDLU[1]

    就是一

    个典型案例。在此之后，无数先前没听说过或认为人工智能不可能实现

    的人开始关注人工智能。

    该程序接受英语指令，该指令告诉机器人用彩色积木搭建结构，并

    计算出如何移动这些积木才能实现目标。它之所以影响深远，原因很

    多，其中部分知识已经应用到了一般的人工智能领域。与此相关联的点

    在于它能够赋予复杂的句子详细的语法结构，例如：如果你之前不知道

    奶奶的食谱是错的，你打算在蛋糕中加多少鸡蛋。(尝试一下!)

    就技术层面而言，SHRDLU不尽如人意，其中有许多程式错误，所

    以只为少数技艺精湛的研究人员使用。当时还出现了其他各种句法处理

    程序，但也没能推广到现实文本当中。总之，研究人员后来很快发现，复杂的句法分析对现成系统来说太难了。

    除了句法外，在人类语言中，语境和相关性也很重要。当时没有显

    著成就表明人工智能能够做好这两点。

    1964年，美国政府的确在自动语言处理咨询委员会(Automatic

    Language Processing Advisory Committee，以下简称ALPAC)的报告中

    宣布机器翻译不可能实现。报告预测，看好其“钱”景的人为数不多(尽

    管机器辅助人类翻译也许可行)，认为计算机将与句法作斗争，被语境

    击败了，而最为重要的是，对相关性一无所知。

    这就像是给机器翻译(实际上，它的资金来源一夜之间干涸)和人

    工智能丢了一枚炸弹。大家普遍将报告解读为：人工智能研究做了许多

    无用功。畅销书《计算机和常识》(Computers and Common Sense)也

    声称(1961年)人工智能研究是在浪费纳税人的钱。报告的发布似乎也

    证明了政府的高层专家同意这种观点。当时两所即将开设人工智能学院

    的美国大学也跟着取消了其计划。不过人工智能的研究工作并未因此中断。几年后，精通句法的

    SHRDLU闪亮登场，为GOFAI做了一次成功的辩护。但是质疑很快悄然

    而至。NLP研究的焦点也因此逐渐转向语境而非句法。

    20世纪50年代早期，一些研究人员开始重视语义语境。英国剑桥大

    学的玛格丽特·玛斯特曼(Margaret Masterman)研究小组用同义词词典

    而不是字典来处理机器翻译(和信息检索)。他们认为句法是“语言中

    非常肤浅和冗余的部分，被匆忙的人完全忽略了”。他们专注于词丛，而不是单个单词。他们没有尝试字对字的翻译，而是搜索同义词的相关

    文本。这样就可以正确翻译模糊词(如果找到了同义词的相关文本)。

    因此，bank可以(用法语)表示为rive或banque，这取决于语境是否分

    别包含诸如water(水)或money(钱)等词。

    有些词的词义不同(例如鱼和水)，但是常常同时出现。这些词可

    以强化以同义词词典为基础的语境法。时间证明事实的确如此。今天的

    机器翻译除了区分各类词汇层面的共性——同义词(emptyvacant)、反义词(emptyfull)、归属关系(fishanimal)和包含关系

    (animalfish)、同类关系(codsalmon)以及部分整体关系

    (finfish)，还能识别主题共现关系(fishwater，fishbank，fishchips

    等)。

    由此可见，总结、提问或翻译自然语言文本不一定非得处理复杂的

    语法。今天的NLP更多依赖于“体力”(计算能力)而不是大脑(语法分

    析)。数学，特别是统计学，已经取代逻辑，机器学习(包括但不限于

    深度学习)已经取代句法分析。这些NLP的新方法(从书面文本到语音

    识别)非常高效，所以在实际应用中，95%的成功率是可接受标准。

    在现代NLP中，功能强大的计算机统计搜索海量(“语料库”)文本

    (在机器翻译中，这些是由人类配对的翻译)，以找到常见的和意料之

    外的单词模式。它们可以知道鱼水、鱼蝌蚪、鱼和薯条、盐和醋的统

    计结果。NLP现在可以学习构建“词向量”(如第2章中所述)，来表示

    既定概念下该词所有含义出现的概率云。不过此处的关注点通常是词和

    短语，而不是句法。语法没有被忽略：文本在接受检测的过程中，其中

    一些单词将被(自动或手动地)赋予形容词和副词之类的标记。但是句

    法分析却很少使用。

    详细的语义分析也不多。“组合的”语义用句法分析句子的含义；这

    种做法仅限于研究实验室，没有大规模应用。“常识”推理器CYC对概念(词)的语义表示相对完整，因此能更好地“理解”它们(见第2章)。

    但这种应用也十分有限。

    当前的机器翻译倒是风生水起的。有些系统包含主题很少，但有些

    系统则包罗万象。谷歌翻译每天为超过2亿名用户提供各种主题的机器

    翻译。SYSTRAN翻译系统每天为欧盟(24种语言)、北约、施乐公司

    和通用汽车公司服务。

    许多机器翻译的译文都近乎完美，如欧盟的文件(因为在源语文本

    中只用到有限子集的单词)。尽管大多数机器翻译存在问题，但还是很

    容易理解，因为博学的读者可以忽略译文中的语法错误和生硬的单词

    ——就像听非母语人士说话一样。有些机器翻译出来的译文只需人类稍

    作编辑和修改(而日语在翻译前后需要大量编辑。如英语的过去时态

    vot-ed，日语没有分段的单词。而且日语的短语顺序是颠倒的。匹配不

    同语系的语言对机器来说并非易事)。

    简而言之，人类用户可以很好理解机器翻译出的译文。同样，总结

    期刊文章的单语NLP程序经常能够反映论文是否值得全文阅读(完美的

    翻译基本不现实。例如，用日语说“要一个苹果”需要反映对话者的社会

    地位，但在英语中没有同类区别)。

    人工智能应用程序上的实时翻译不太成功，如Skype。因为系统必

    须识别语音，而不是书面文本(单个词被清楚分开)。

    NLP的另外两个突出应用是信息检索——加权检索(由玛斯特曼的

    研究小组在1976年发起)和数据挖掘。例如，谷歌搜索引擎搜索词条的

    时候，通常用相关性对要搜索的词条进行加权——这是在统计学层面而

    不是语义层面评估(即没有“理解”)。数据挖掘可以找到人类用户未意

    识到的单词模式。它长期用于研究市场中的产品和品牌，现在(使用深

    度学习)用于“大数据”，即搜集起来的海量文本(有时是多种语言)或

    图像，如科学报告、医疗记录、社交媒体和互联网上的词条。

    政府、政策制定者和社会科学家用大数据挖掘开展侦查和反间谍活

    动，以及监测公众的态度，以此来了解不同群体变化的观点并对其进行

    比较：男女、年轻人老年人、北方人南方人等。英国智库Demos(与

    萨塞克斯大学的NLP数据分析团队合作)分析了数以千计有关厌女症、种族群体和警察的Twitter消息。通过搜索特定事件(twitcidents)发生

    之后突然发出的一些推文，可以发现公众对“警方回应”的态度发生了什么样的转变。

    大数据NLP给出的结果是否有用尚无定论。数据挖掘(使用“情绪

    分析”)不仅能度量公众兴趣度，还能度量其评价语气。然而，语气这

    种东西不会直接说出来。例如，一则推文包含具有明显贬损语气的种族

    歧视字眼，机器由此解读为“负面”情绪，但事实上可能并不表示贬损。

    法官在读到它的时候可能会认为这个词被用作(在这种情况下)群体身

    份的一种积极标记，也可能觉得它是中性描述(例如，拐角处巴基斯坦

    佬开的商店)，并非侮辱或辱骂。根据迪莫斯(Demos)的研究发现，只有一小部分包含种族或民族术语的推文真正带有挑衅意味。

    人的判断在这些情况下依赖于语境，例如推文中的其他词。调整机

    器的搜索标准，以减少“负面情绪”归属可能是行得通的，但也可能行不

    通。搜索标准也往往颇具争议。即使人和机器的标准一致，也很难确定

    语境中的哪些方面能证明人类的解读合理。

    在计算(甚至口头的)方面确定相关性很难，这只是其中一例。

    乍一看，两个知名的NLP应用程序似乎与刚才的说法相矛盾，即苹

    果的Siri和IBM公司的沃森。

    Siri是基于规则的私人助理，是一款能说话的“聊天机器人”，可以

    快速回答许多不同的问题。可以访问互联网上的一切资源——包括谷歌

    地图、维基百科、不断更新的《纽约时报》以及出租车和餐馆等当地服

    务列表，甚至还可以访问功能强大的在线自动回答系统WolframAlpha，后者利用逻辑推理“想出”而不只是“找到”各种事实性问题的答案。

    用户口头对Siri(逐渐适应语音和方言)发问，然后Siri利用网络搜

    索和对话分析回答问题。对话分析研究人类如何就对话中的主题进行排

    序，以及如何安排它和人类之间的互动(如解释和协商)。利用对话分

    析，Siri将思考“对话者想要什么”“我应该如何回答”等问题，同时在一

    定程度上适应个人用户的兴趣和偏好。

    简言之，Siri似乎不仅对主题相关性敏感，而且对个人相关性也很

    敏感。从表面上看，它真的能让人印象深刻。然而，它很容易给出荒唐

    的答案，如果用户偏离事实的轨道，Siri也就会跟着失去方向。

    IBM公司的沃森也专注于事实。它是处理大数据的现成资源(有2880个核心处理器)，已经用在一些呼叫中心，通过改良，还用到了医

    疗领域中，如评估癌症治疗。它不仅能像Siri一样回答直截了当的问

    题，还可以处理在常识游戏《危险边缘》(Jeopardy)中出现的谜题。

    在《危险边缘》中，玩家不会被问到直接的问题，而是根据以答案

    形式提供的各种线索，以问题的形式做出正确的回答。例如，玩家被告

    知“1921年5月9日，这家‘尽善尽美的’航空公司在阿姆斯特丹开设了第一

    个客运办事处”，那么他们的答案应该是“KLM(荷兰皇家航空)是什

    么？”

    沃森还可以应对很多其他挑战。它的《危险边缘》游戏版本不像

    Siri那样能访问互联网(虽然它的医疗版本可以)，不懂对话结构，也

    不能通过逻辑推理找到答案，然而它能对庞大但封闭的数据库进行大规

    模并行统计搜索。数据库中有各种文件，如无数评论和参考书，还有

    《纽约时报》等，里面提供了各类事实，从麻风病到李斯特(匈牙利钢

    琴家、作曲家)、从氢到九头蛇等。在玩《危险边缘》的时候，它的搜

    索由数百种反映游戏中固有概率的特殊算法作指导。它还可以从其他人

    类对手的猜测中受益。

    2011年，沃森在玩《危险边缘》的时候，“明显地”战胜了两位人类

    冠军，这可以和它在IBM公司的表兄弟深蓝(Deep Blue，见第2章)的

    表现(打败了国际象棋大师卡斯帕罗夫)相媲美(“很显然”，因为计算

    机瞬间作出反应，而人类需要一些反应时间，然后才会按蜂鸣器)。但

    它和深蓝一样都不能稳居冠军宝座。

    沃森有一次比赛失利的原因是，虽然它正确地将注意力集中在某位

    运动员的一条腿上，但是它忽略了在它的存储数据中有一个关键事实

    ——这个人少了一条腿。沃森不会再犯这个错误，因为程序员现在已经

    标记“缺失”这个很重要的词，但它还会犯其他错误。即使在普通事实搜

    寻语境下，人们通常依赖的相关性判断都超出了沃森的能力范围。例

    如，凭一条线索找到耶稣的两个门徒，他们的名字既是十大首选婴儿

    名，又都以同一字母结尾。答案是“马修”(Mathew)和“安德

    鲁”(Andrew)——沃森立即给出了答案。人类冠军也得到了这个答

    案。但他的第一想法是“詹姆斯”(James)和“犹大”(Judas)，他回忆

    说，自己之所以排除了这个答案，是因为出于某种原因，他认为犹大不

    是一个流行婴儿名。沃森就做不到这一点。

    人类的相关性判断往往没有上面的例子那么明显，对于今天的NLP来说，这个判断太微妙了。相关性是语言概念版的“框架问题”(见第2

    章)，都是难啃的硬骨头。许多人会觉得让非人类系统完全掌握它简直

    是天方夜谭。难道仅仅因为包含的信息量过大且过于复杂，还是因为相

    关性是人类特有的生命形式？我们将在第6章对此展开讨论。

    注释

    [1]SHRDLU是一个用自然语言指挥机器人动作的系统，由维诺格拉德于1972年在

    麻省理工学院建立。——译者注创造力

    创造力——产生新颖的、异乎寻常的以及有价值的想法或人工制品

    的能力——是人类智慧的顶峰，对实现人类水平的强人工智能也是必不

    可少的。但人们普遍认为它很神秘。现在我们连人类是如何产生的新颖

    想法都没弄明白，更别提计算机了。

    目前，对创造力的识别甚至都没有统一的答案：人们对一个想法是

    否具有创造性通常会持不同意见。有些分歧点在于：它是不是真的很新

    颖，以及它在何种意义上是真的很新颖。一个想法可能只是对相关个体

    来说是新颖的，也有可能对整个人类历史来说都很新颖(分别是“个

    体”和“历史”创造力的典范)。无论哪种情况，它可能多多少少和前述

    观点类似，会引发分歧。还有些分歧点是有关估价(包含功能意识，有

    时会是现象意识，参见第6章)。同一个想法，有的社会群体可能重

    视，而有的却不一定(比如现在的年轻人会嘲笑任何仍然喜欢看瑞典流

    行演唱组合乐队Abba DVD盘的人)。

    人们通常认为没有什么有趣的人工智能可以体现创造力。但人工智

    能技术产生了许多在人类历史上属于新颖的、异乎寻常的以及有价值的

    想法。例如，它们被用在了发动机、药品和各类计算机技术的设计过程

    中。

    此外，人工智能概念还有助于解释人类的创造力。借此，我们可以

    分出三种类型的创造力：组合型、探索型和变革型。三者包含不同的心

    理机制，能带来不同的惊喜。

    在组合型创造力中，常见的想法以不常见的方式组合在一起。例

    如，视觉拼贴、有诗意的图像和科学类比(将心脏比作泵，原子比作太

    阳系)。新组合在统计学层面带来意外发现——这在以前是不大可能做

    到的事情，就像一个冷门选手不大可能赢得德比(Derby)。但它浅显

    易懂，所以有价值。价值大小取决于如何评判前文讨论的相关性。

    探索型创造力较为常见。它充分利用了一些有文化价值的思维方式

    (例如，绘画或音乐的风格、化学或数学的子区域)。使用风格法则

    (主要是无意识地)可以产生新想法，就像英语语法可以生成新句子一样。艺术家或科学家可能无条件地探索该风格的潜力，也可能刻意大力

    推行它的应用或对其进行测试，以了解它可能生成哪些想法。它甚至可

    能因为某一规则的些许变化(例如弱化加强)而发生小变动。尽管这

    个结构很新颖，但仍然属于常见的风格。

    变革型创造力继承了探索型创造力，如果现有风格受限，变革型创

    造力就会发生。一个或多个风格限制将被彻底改变(删除、否定、补

    充、替换、添加……)，因此生成了之前不可能生成的新结构。这些新

    想法堪称异类，因为它们的出现像是天方夜谭。最初，它们可能晦涩难

    懂，因为以惯常思维方式很难完全理解。然而，如果新想法要被接受，它们就必须贴近惯常思维方式(有时这种接受要花很多年)。

    三种创造力都发生在人工智能中——观察者通常认为创造力是人类

    确定的(实际上是通过图灵测试，见第6章)，但可能没有像人们预期

    的那样多。

    像组合系统就十分罕见。人们可能认为模拟组合型创造力很容易，毕竟没有什么比让计算机在已经存储的想法之间产生不常见的关联更简

    单了。这些关联(在历史上)通常很新颖，(在统计学上)也令人惊

    讶。但如果它们要有价值，就必须彼此相关。当然，我们也清楚，相关

    性没那么容易得到。例如，我们在第2章中提到了一些笑话生成程序，它们用笑话模板来帮助提供相关性。同理，符号人工智能基于案例的推

    理利用预编码的结构相似性来构造类比。因此，这些程序的组合型创造

    力还结合了探索型创造力。

    同时，人们可能认为人工智能无法模拟变革型创造力。这种想法也

    是错误的。任何程序确实只能做它可能有能力做的事情，但是进化程序

    是可以进化自身的(见第5章)。它们甚至可以评估自己新进化的想

    法，但前提是程序员提供了明确的挑选标准。这样的程序通常用在追求

    新颖的人工智能应用上，例如设计新科学仪器或药物。

    然而，变革型创造力不是一条通向强人工智能的神奇之路。它几乎

    不能保证产生有价值的结果。我们可以相信(在数学或科学中的)有些

    进化程序能够找到最优方案，但许多问题不能由最优化来定义。变革型

    创造力之所以有风险，是因为以前已经接受的规则被打破了。所有新结

    构都必须进行评估，否则就会出现混乱。但是当前人工智能的拟合函数

    是由人类定义的：程序不能独立改变推断出它们。探索型创造力最适合人工智能。这类例子不胜枚举。工程学中一些

    探索型的人工智能创新(如CYC的设计者设计的程序所生成的创新，见

    第2章)已被授予专利。对于技术熟练人员来说，他们不一定觉得获得

    专利的想法就属于创新，但这个想法可能是他们想要探索的风格。有些

    人工智能的探索能与人类取得的杰出成就相媲美——如按照肖邦或巴赫

    的风格创作音乐，又有多少人能做到这一点？

    然而，即使是探索型人工智能也在很大程度上依赖于人的判断。因

    为必须有人识别并清楚地说明风格化的法则。这通常很难。有位世界级

    专家在研究弗兰克·劳埃德·赖特(Frank Lloyd Wright)的“草原式住

    宅”时，不再描述建筑风格，宣称它们“难以理解”。后来，一个可计算

    的“形状语法”生成了无数个“草原式住宅”的设计，包括四十多个原创

    ——这没什么不可信。但系统成功的根本原因还是人类分析师。只有当

    强人工智能自己能够分析(艺术或科学中的)风格时，它的创造性探索

    才是“自己的作品”。尽管最近有一些(但不多)深度学习识别艺术风格

    的案例(见第2章和第4章)，但它的确是一项艰巨的任务。

    利用人工智能，人类艺术家开发了一种新的艺术形式——数字艺术

    (computer-generated，CG)。它涉及建筑学、图像、音乐，以及编排

    和运用不太理想的文学(因为NLP面临句法和相关性方面的困难)。在

    数字艺术中，计算机不只是个工具，可以将其比作一支新画笔，帮助艺

    术家们做他们自己本来可以做的事情。相反，如果没有它，这项工作就

    不可能做到，或者甚至想都不用想。

    数字艺术体现了上述三种创造力。由于上述原因，几乎没有任何数

    字艺术是组合型的。英国法尔茅斯大学教授西蒙·克尔顿(Simon

    Colton)的The Painting Fool软件制作了与战争相关的视觉拼贴画，但是

    它也收到了特殊指令，被要求搜索数据库中与“战争”相关的图像。大多

    数数字艺术都是探索型或变革型的。

    计算机有时通过执行艺术家编写的程序，可以完全独立地生成艺术

    品。哈罗德·科恩(Harold Cohen)的AARON程序独立生成了线条图和

    彩色图像(有时创造的颜色绚丽多彩，所以科恩说，AARON是一个比

    他更优秀的五彩画家)。

    相比之下，在交互艺术中，艺术作品的最终形式部分取决于观众的

    输入，当然，观众可能是无意间控制了发生的事情。有些交互艺术家将

    观众看作同他们一起创作的人，还有一些交互艺术家认为观众以各种方式无意间影响了艺术作品，于是将他们看作作品产生的起因[欧内斯特

    ·埃德蒙兹(Ernest Edmonds)等艺术家同时采用了这两种方法]。在以

    威廉·莱瑟姆(William Latham)和乔·麦考马克(Jon McCormack)为代

    表的进化艺术中，计算机不断生成改变结果，但通常是由艺术家或观

    众挑选的。

    总之，人工智能的创造力有很多应用。在科学或艺术的一些小角落

    里，它有时可以和人类的创造力一决高下，甚至超过人类。但在一般情

    况下要和人类创造力匹敌就另当别论了。强人工智能仍然离我们很遥

    远。人工智能与情感

    和创造力一样，情感也被看作与人工智能格格不入的东西。除了直

    观上觉得不可能，想想情绪和情感依赖于大脑中散布的神经调节剂这一

    事实，构建情感的人工智能模型也似乎不太现实。

    多年来，人工智能科学家们似乎也赞同这个观点。他们忽略了情

    感，只有在20世纪60年代和70年代出现了几个例外，如西蒙，他认为认

    知控制包含情感；还有肯尼斯·科尔比(Kenneth Colby)，他为神经症

    和偏执狂构建了有趣的模型，虽然这是一个超级有野心的目标。

    如今情况发生了变化。神经调节(在GasNets中，见第4章)已经被

    模拟。此外，许多人工智能研究小组都在研究情感。尽管大部分研究在

    理论层面很肤浅，但大多数都“钱”景光明，它们致力于打造“计算机伴

    侣”。

    还有些人工智能系统是基于屏幕的机器人，有些是门诊用机器人，在与用户的交互中，不仅实用，还关注用户的舒适度以及满意度。大多

    数服务对象是老年人或残疾人，包括初发性痴呆病患者。还有一些是婴

    儿或交互式“成人玩具”。总之，包括电脑护工、机器人保姆和性玩伴。

    另外，人机交互的例子包括：提醒用户购物、吃药和拜访家人；帮

    助编写个人日志；安排和讨论电视节目，如每日新闻；制作美食和饮

    料；取东西；监测生命体征(和婴儿哭泣)；说一些色情话语以及做一

    些色情动作等。

    这其中的很多任务都包含人类的情感。人工智能伴侣就体现在它们

    能识别人类用户的情感或以明显带有情感的方式回应用户。例如，用户

    承受丧亲之痛时，可能会得到一些机器的同情。

    人工智能系统已经能够用多种方式识别人类的情感。有些是生理

    的，如监测人的呼吸频率和皮肤电反应；有些是口头的，如注意说话的

    速度、语调和用词；有些是视觉的，如分析面部表情。当前的方法都相

    对简陋。用户的情感不仅容易被遗漏，而且容易被曲解。计算机伴侣的情感表现通常体现在口头上。它基于词汇以及语调

    (如果系统能生成语音的话)。但是，系统不仅密切注意用户常用的关

    键词，还以极其刻板的方式作出回应。对于用户说过的东西(可能在日

    记中)，它偶尔可能会引用由人类创作的相关言论或诗歌。但NLP所面

    临的难题意味着计算机生成的文本在细节上很难做好。这些文本甚至可

    能不会被接受：用户可能会因为机器人伴侣没有人类的外观而被激怒或

    感到沮丧。同样，一只咕噜咕噜叫的机器猫可能会讨人嫌，而不是让用

    户觉得放松、舒服或满足。

    当然也有惹人疼的机器人伴侣：帕罗(Paro)是一只可爱的交互

    式“海豹宝宝”，它有着迷人的黑眼睛和浓密的睫毛，是许多老年人和痴

    呆症患者的好伴侣(未来版本还可以监测人类的生命体征，并据此向人

    类看护人员发出警告)。

    有些人工智能伴侣可以利用自己的面部表情，也可以用眼睛凝视，以看似富有情感的方式回应用户。有些机器人有弹性“皮肤”，覆盖在人

    类面部肌肉模拟物的上面，它的外形可以(向人类观察者)显示出多达

    十二种基本情感。基于屏幕的系统通常显示虚拟角色的面容，其表情根

    据(他她)可能经历的情绪而发生改变。然而，所有这些事情都有可

    能(原文如此)陷入所谓的“恐怖谷理论”[1]

    中，即人们在遇到与人类极

    其相似但仍存在些许差异的生物时，就会觉得不舒服，甚至极为反感。

    因此，机器人或屏幕虚拟化身如果拥有似是而非的面孔，可能会让人类

    觉得自己正在受到威胁。

    为情感空虚的人提供上述类似人类伴侣关系的做法是否符合道德标

    准，目前尚无定论(见第7章)。当然，有些人机交互系统(例如帕

    罗)似乎能够为一些人带来快乐，甚至是持久的满足感。如果没有这些

    系统，有些人可能会觉得生活很空虚。但是这样就足够了吗？

    “伴侣”模型缺乏理论深度。专家们开发人工智能伴侣的情感是为了

    赚钱。他们没去想怎样让“伴侣”用情感解决自己的问题，也没有去了解

    情感在整个大脑运作过程中发挥什么样的作用。他们觉得情感是可有可

    无的附加物：他们忽视情感，除非在某些棘手的人造情境下，他们才不

    得不考虑。

    这种不屑的态度当时弥漫在整个人工智能领域，直到最近，情况才

    相对有所改观。“情绪计算”之母罗莎琳德·皮卡德(Rosalind Picard)的“情感计算”把情感从20世纪90年代末期的“冷宫”中解救出来，不过她

    也没有深究。

    一直以来，情感被人工智能忽视(与西蒙富有洞察力的评论命运相

    似)，其中一个原因是它没有得到很多心理学家和哲学家的重视。换句

    话说，他们认为智能不需要情感。相反，他们觉得情感不利于解决问

    题，会破坏理性。“情感可以帮助一个人决定做什么以及做这件事的最

    佳方法”的想法不合潮流。

    情感最终会越来越重要，部分得益于临床心理学和神经科学的发

    展。但它能进入人工智能领域离不开马文·明斯基和亚伦·斯洛曼这两位

    人工智能科学家。他们一直把大脑看成一个整体，而不是像大多数同事

    那样，将自己的想法局限在智能领域内的某个小角落中。例如，斯洛曼

    正在进行的CogAff项目就关注情感在大脑计算架构中的作用。CogAff影

    响了于2011年发布并仍在推广中的LIDA的意识模型(见第6章)，也启

    发了20世纪90年代末由斯洛曼研究小组带头开发的MINDER程序。

    MINDER程序模拟了独自照顾几个婴儿的护士心中所产生的焦虑

    (功能方面)。“她”只有几项任务：给婴儿喂吃的；别让婴儿掉进路边

    的沟里；如果有婴儿掉进去，“她”得将婴儿送到急救中心。“她”只有几

    个动机(目标)：给一个婴儿喂吃的；如果已经有一个婴儿在防护栅栏

    后面，“她”要再放一个；将一个婴儿从沟中抱出并送去急救站；在沟边

    巡逻；筑围栏；将一个婴儿移至离水沟较远的安全位置；如果当前没有

    其他动机被激活，“她”就在托儿所周围漫步。

    所以，她比真正的护士简单得多(虽然比典型的规划程序更复杂，因为后者只有一个终极目标)。然而，“她”容易感到不安，而这种不安

    可以算得上是焦虑。

    这位模拟护士必须对所处环境中发出的视觉信号作出适当回应。有

    些信号触发(或影响)的目标比其他目标更紧急：如果一个婴儿正在爬

    向水沟，而另一个婴儿只是饿了，那么“她”得先管爬向水沟的那个；此

    时如果刚好有一个婴儿快掉进水沟了，那么“她”的注意力得先转向这

    个。但是就算有些目标当时被搁下了，可能最终还是必须解决，它们的

    紧迫程度可能会随着时间的推移而不断增强。所以，如果有一个婴儿在

    水沟附近，那么“她”可以先把饿了的婴儿放回婴儿床；但是“她”应该先

    给喂食等待时间最长的婴儿喂吃的，然后再喂不久前刚喂过的婴儿。总之，模拟护士的任务有时可能被中断，要么被放弃，要么被搁

    置。MINDER程序必须决定当前的优先级。“她”在完成任务的整个过程

    中必须做这种决定，这样“她”的行为可能会因此而被不断改变。事实

    上，任何任务在完成过程中都会被中断，因为环境(婴儿们)对系统提

    出了很多相互冲突且不断变化的要求。模拟护士和人类护士一样，会因

    为婴儿(每个婴儿是不可预测的自主智能体)数量不断增加而变得越来

    越焦虑，表现得也越来越差。不过这种焦虑很有用，护士因此能成功地

    照顾婴儿。不过这个过程并不顺利：冷静和焦虑相距甚远。

    MINDER程序表明了一些情感控制行为的方式，从而智能地安排相

    互竞争的动机。毫无疑问，人类护士会因为情况发生变化而经历(原文

    如此)各种焦虑。但这里的重点是情感(emotions)，不只是感觉

    (feelings)。前者还涉及现象和功能意识(见第6章)。具体来说，它

    们是被安排了竞争动机的计算机制，如果没有这些机制，我们就无法运

    作。所以，影视剧《星际迷航》中没有情感的斯波克(Spock)先生就

    无法进化成真正的人。

    如果要实现强人工智能，那么我们必须考虑和利用情感因素，如焦

    虑。

    注释

    [1]恐怖谷理论(uncanny valley)是一个关于人类对机器人和非人类物体的感

    觉的假设，它在1969年被提出，说明了当机器人与人类相像超过一定程度的时候，人类对它们的反应便会突然变得极为反感，即哪怕机器人与人类有一点点的差别都

    会显得非常显眼刺目，从而对整个机器人有非常僵硬恐怖的感觉，犹如面对行尸走

    肉。——译者注04 人工神经网络

    人工神经网络(artificial neural networks，ANN)是由许多相互连

    接的单元组成，每个单元只能计算一件事情。这样的描述听起来有些无

    聊。但人工神经网络似乎很有魔力。它必然也让记者们着迷。弗兰克·

    罗森布拉特的“感知器”(光电机)在没有接受明确指导的情况下可以学

    会识别字母，曾在20世纪60年代成为各大报纸的“宠儿”，吸睛无数。20

    世纪80年代中期，人工神经网络名声大振，至今仍然备受媒体的青睐。

    最近与人工神经网络相关的大量宣传还包括深度学习。

    人工神经网络有无数应用，从操控股票市场和监测货币波动到识别

    语音或人脸，但真正有趣的是它们的运行方式。

    有一小部分人工神经网络在特定的并行硬件上运行，甚至在硬件或

    湿件混合物上运行，将真正的神经元与硅电路结合。然而，大多数网络

    通常由约翰·冯·诺依曼机器来模拟。也就是说，人工神经网络是在经典

    计算机上实现的并行处理虚拟机(见第1章)。

    之所以说它们的运行方式很有趣，部分原因是它们与符号人工智能

    的虚拟机有很大差别。大规模的并行计算代替串行指令，自下而上的处

    理代替自上而下的控制，以及概率代替逻辑。动态和持续变化的人工神

    经网络与符号程序形成了鲜明对比。

    此外，许多神经网络从随机开始时就具有神秘的自组织属性(20世

    纪60年代的感知器也具有这一属性，它们在新闻中都很高调)。系统从

    随机架构(随机权重和联结)开始，并自己逐渐适应去执行需要完成的

    任务。

    人工神经网络有许多优点，显著增强了人工智能的计算能力。然而，它们也有缺陷，即它们不能提供第2章中所设想的真正意义上的强

    人工智能。例如，虽然一些人工神经网络可以做近似推理或推理，但它

    们不能像符号人工智能那样精确(问：2+2是多少？答：很可能是4。真

    的吗？)。在人工神经网络中，也很难模拟层级。一些(回馈式)网络

    在一定程度上能够用交互式网络来表示层级。

    由于当前对深度学习的热情高涨，神经网络的网络不像以前那样罕

    见了。但是，这些网络还是相对比较简单的。人脑必须包括无数在很多

    层级上以极其复杂的方式进行交互的网络。总之，强人工智能仍然十分

    遥远。人工神经网络更广泛的含义

    人工神经网络是作为计算机科学的人工智能取得的一大胜利，但它

    们的理论含义并未仅局限于此。它们与人类概念和记忆有一些相似之

    处，因此引发了神经科学家、心理学家和哲学家们的兴趣。

    神经科学家们的兴趣由来已久。事实上，罗森布拉特没有把具有开

    创意义的感知器当作一个在现实中有用的小发明，而是把它当作一条神

    经心理学理论。今天的神经网络尽管与大脑有很多差异，但是在计算神

    经科学中扮演着重要的角色。

    心理学家也对人工神经网络感兴趣，哲学家们紧跟其后。例如，非

    专业人工智能人士狂热追捧20世纪80年代中期的一个神经网络。该网络

    显然已经像小孩一样学会了使用过去时，开始的时候没有犯错误，后来

    由于过分遵守规则，以至于把英文“go”的过去时变成了“goed”(本来应

    该是“went”)，在犯了这些错误之后，最后才得到规则和不规则动词的

    正确形式。这是有可能做到的，因为提供给该网络的输入反映出小孩经

    常听到的词的变形概率——神经网络没有使用先天的语法规则。

    这个网络的出现意义重大，因为当时大多数心理学家(和许多哲学

    家)都接受了诺姆·乔姆斯基(Noam Chomsky)的说法，声称小孩必须

    依靠先天的语言规则来学习语法，以及婴幼儿过分遵守规则的行为恰好

    证明那些规则在起作用。过去时态的神经网络证明了这两种说法都不正

    确(当然，它没有证明小孩不具备先天的规则，只是证明了他们不需要

    这些规则)。

    另一个十分有趣的例子是对“表征轨迹”(representational

    trajectories)的研究，最初受到了发展心理学的启发。原先混乱的输入

    数据在连续的层级上被重新编码(在深度学习中也一样)，所以除了能

    捕获到明显的规则性外，还有不太明显的规则性显露出来。这不仅涉及

    儿童的发展，还涉及与归纳学习相关的心理学和哲学争论。它表明有了

    先前的期望(计算结构)，才能学习输入数据中的模式，学习不同模式

    的顺序必然受到约束。

    简而言之，人工神经网络在商业和理论层面都很重要。分布式并行处理

    有一种人工神经网络理论尤其吸睛——PDP。事实上，当人们提

    及“神经网络”或“联结主义”(不常用的术语)时，他们通常说的就是

    PDP。

    PDP网络的运行方式主要有四大优势，涉及技术应用和理论心理学

    (以及精神哲学)。

    第一，它们只需要被显示例子而不需要被精确编程，就能学习模式

    以及各个模式之间的关联。

    第二，能容忍“凌乱的”迹象，可以解决约束满足问题，弄清部分冲

    突迹象的意思。它们不需要严格定义(不需要被表示成一系列的充分必

    要条件)。相反，它们处理具有家族相似性的重叠集合，这也是人类概

    念的一个特征。

    第三，能够识别不完整的或部分损坏的模式。也就是说，它们具有

    找寻内容的记忆。人类也有这种记忆，例如，听到开头几个音符就能识

    别一段旋律，或者即使是一段旋律几个音弹错了，也能识别这段旋律。

    第四，它们很强健。PDP网络就算丢失一些节点，也不会满口胡言

    或停止运行。它可能显示出适度的退化，在这个过程中，它的性能随着

    损害的增加而逐渐变差。它们不像符号程序那么脆弱。

    这些优势源于PDP中的D，即“分布式”。不是所有的人工神经网络

    都涉及分布式处理。在集中式(中央控制式)网络(例如WordNet，见

    第2章)中，所有概念分别是由唯一的节点表示。在分布式网络中，一

    个概念存储(分布)在整个系统中。有时候，集中式和分布式处理会结

    合，但不常见。单纯的集中式网络也不常见，因为它们没有PDP的四大

    优势。

    分布式网络本质上是集中式网络，因为它的每个单元都相当于单个

    微特征——例如，视野中某个位置的一小块颜色(不是太小，也不是太

    特别。可以证明一些粗调单元比许多精调单元更有效率)。但是与需要表示的概念相比，这些单元在更低级概念层上定义：PDP包含“子符

    号”计算。此外，每个单元可以是许多不同整体模式的一部分，因此促

    成了许多不同的“意义”。

    PDP系统有多种类型。所有类型都是由三层或更多层互通单元组成

    的，每个单元只能计算一个简单的东西。但这么多单元连在一起，那情

    况就完全不一样了。

    无论何时，只要输入层中单元的微特征被呈现给网络，它就会被触

    发。当输出单元被与之连接的单元激活，它就会被触发，它的活动也会

    被传递给人类用户。位于中间层的隐藏单元与外界没有直接接触。有些

    隐藏单元是确定的：它们是否被触发只取决于与其连接的单元产生的影

    响。有些隐藏单元则是随机的：它们是否被触发，部分取决于某个概率

    分布。

    各个连接也不一样。有些是正向反馈，将信号从低层传递到高层；

    有些则是反向的；还有一些是横向的，连接同一层内的各个单元；有些

    既有正向反馈，也有反向反馈，我们将在下文中提到。就像大脑突触一

    样，连接要么是兴奋，要么是抑制。它们的强度(权重)不同。权重表

    示为+1和-1之间的数字。兴奋(或抑制)连接的权重越高，接收信号的

    单元被触发的概率越高(或越低)。

    PDP包含分布式表示，因为每个概念都是由整个网络的状态表示

    的。这似乎令人困惑，甚至自相矛盾。它当然和符号人工智能中定义的

    表示有很大差异。

    只对技术或商业应用感兴趣的人不在乎这一点。如果他们只想解决

    实践中的一些突出问题，例如，单个网络怎样才能存储几个不同的概念

    或模式，那么他们很乐意先把问题留在那儿!

    研究人工智能心理和哲学含义的人也问到了这个“突出问题”。答案

    就是一个PDP网络可能出现的所有状态千变万化，所以在这块或那块单

    元中，只有少数几种状态同时被激活。被激活的单元仅仅将活性扩散到

    一些其他单元。然而，那些“其他单元”各不相同：任意既定单元能够促

    成许多不同的活性模式(一般情况下，带有许多未激活单元的“稀疏”表

    示更有效)。系统将最终饱和，关联存储器的理论研究问题将是一定规

    模的网络原则上能够存储多少模式。这些人不喜欢把问题留在那儿。他们不仅对“表示”本身的概念感兴

    趣，还热衷于讨论人类的心智大脑是否确实包含内部表示。PDP的追随

    者认为PDP源于符号人工智能，迅速传播到心智哲学，驳斥了物理符号

    系统假说(见第6章)。神经网络学习

    大多数人工神经网络能够学习。这包含在权重中作出自适应改变，有时也包含在连接中作出自适应改变。通常，网络的解剖结构(单元的

    数量以及单元之间的连接)是固定的。如果是这样，学习只改变权重。

    但有的时候，学习或进化(见第5章)能够增加新的连接和修剪旧的连

    接。构造型神经网络将这一点做到了极致：开始时没有任何隐藏单元，随着学习的不断深入，它们增加了隐藏单元。

    PDP网络有很多学习方式，涵盖了第2章中提到的所有学习类型：

    监督式学习、非监督式学习和强化学习。例如，在监督式学习中，某个

    类的一些例子输入到PDP网络以后，网络逐渐识别这个类——所有例子

    都不需要具有每一个“典型的”特征(输入数据可以是视觉图像、语言描

    述、数字集合等)。当一个例子输入给PDP网络的时候，一些输入单元

    对“输入数据”的微特征作出回应，同时活性扩散，直到网络稳定下来。

    然后将输出单元的所得状态与期望输出作比较(由人类用户辨别)，权

    重随之变化(可能由反向传播引起)，从而减少误差。在输入了许多略

    有差别的例子后，届时PDP网络将开发出典型的活性模式或“原型”，即

    使之前没有被输入这样的典型模式(就算现在输入一个受损的例子以及

    激活更少的相关输入单元，该模式也能够自动完成)。

    大多数人工神经网络学习基于赫布理论，它由唐纳德·赫布

    (Donald Hebb)于1949年提出，该理论经常被总结为“一起激发的神经

    元连在一起”。赫布理论学习强化了经常使用的连接。当两个连在一起

    的神经元同时被激活的时候，权重就会被调整，上述情况以后更有可能

    实现。

    赫布用了两种方式来表示赫布理论，这两种方式既不精确也不等

    效。今天的人工智能研究人员用许多不同的方式来定义它，理论基础有

    可能是从物理学中得到的微分方程，也可能是贝叶斯概率理论。他们利

    用理论分析来比较和改进各种版本。PDP研究可能属于万恶的数学范

    畴。因此，有大量物理学和数学专业的优秀毕业生在金融机构工作，这

    也正是他们的都市同事们为何很少真正了解他们的系统在做什么的缘

    故。鉴于PDP网络用赫布型学习定律来调整权重，那么它何时能够停

    止？答案不是它什么时候能达到完美状态(消除了所有的不一致)，而

    是它什么时候能实现最大程度的一致性。

    例如，如果相关单元同时发出信号，表示通常不同时显示出来的两

    个微特征，这时就会出现“不一致的情况”。许多符号人工智能程序可以

    解决约束满足问题，通过消除路径上迹象之间的矛盾来获取解决方案。

    但这些程序不能容忍解决方案中出现不一致的情况。PDP系统则不同。

    前文提到了PDP的优势，即使不一致持续存在，它们也可以成功运行。

    它们的“解决方案”是给出网络在不一致性降至最低时而非消除时的总体

    状态。

    可以借用热平衡概念来做到这一点。物理学中的能级用数字表示，PDP中的权重也一样。如果学习定律与物理定律相类似(而且如果隐含

    单元是随机的)，同一个描述统计行为的波尔兹曼方程可以描述能级和

    权重的变化，也可以借用快速但均匀冷却金属的方法。退火过程为：先

    将固体充分加温至足够高，再让其慢慢冷却。PDP研究人员有时使用模

    拟退火算法，前几个平衡周期中的权重变化远大于后面周期中的权重变

    化。网络因此能够摆脱和之前相比已经实现总体一致性的情况(局部极

    小值)；但是如果系统被干扰，网络甚至可能达到更好的一致性(以及

    更稳定的平衡状态)。就像我们摇动一袋弹珠，如果想要强行倒出袋子

    内脊处的所有弹珠，那我们开始应该使劲甩这个袋子，但是越到后面用

    力应该越小。

    用反向传播实现最大程度的一致性，其速度更快，使用范围更广。

    但是，无论采用哪种学习规则，整个网络(特别是输出单元)的平衡状

    态被看作有关概念的表示。反向传播、大脑和深度学习

    PDP的追随者们认为，人工神经网络比符号人工智能更接近大脑。

    PDP的设计灵感确实来自大脑，一些神经学科学家确实用它来模拟神经

    机能。然而，人工神经网络还是与大脑中的东西有很大差异。

    (大多数)人工神经网络和大脑之间的一个区别是反向传播或

    BP。BP是一个学习规则，或者说是一类通用学习规则，经常用于

    PDP。1974年，保罗·韦伯斯(Paul Werbos)首次使用BP，20世纪80年

    代初，杰弗里·辛顿(Geoffrey Hinton)以更有效的方式定义BP，它解决

    了信用分配问题。

    所有类型的人工智能都面临信用分配问题，系统不断变化的时候尤

    其如此。假定有一个复杂的人工智能系统很成功，那么它的哪些部分最

    有可能促成了它的成功？在进化人工智能中，信用通常由“桶队列”算法

    分配(见第5章)。在具有确定(非随机的)单元的PDP系统中，信用

    通常由BP分配。

    BP算法从输出层到隐藏层追溯系统成功的原因，并辨识一些需要

    被调整的个体单元(更新权重以将预测误差降至最低)。当网络给出正

    确答案时，BP算法需要知道输出层的确切状态(因此BP是监督式学

    习)。在该示范性输出和从网络中实际获得的输出之间进行逐个单元比

    较。输出单元的状态在两种情况下的任何差异都被视为误差。

    算法假定，一个输出单元的误差由与其连接的单元中所出现的误差

    引起。算法在整个系统中进行反向推算，依据隐藏层中的单元与输出单

    元之间的连接权重，确定第一个隐藏层中的每个单元所产生的具体误差

    量。对于上述输出单元的误差，由与该单元连接的所有隐藏单元分摊责

    任(如果一个隐藏单元连接到多个输出单元，那就把它的所有单个责任

    相加，作为该隐藏单元的责任)。然后对隐藏层和前一层之间的连接按

    比例改变权重。

    “前一层”可以是另一个(和另一个……)隐藏层，但最终它会成为

    输入层，权重将不再变化。该过程一直重复，直到输出层的误差降至最

    低。多年来，BP算法仅用于只有一个隐藏层的网络。多层网络很罕

    见，它们很难分析，甚至很难做实验。不过最近因为出现了深度学习，BP算法被用在了多层网络上，并引起了人们的巨大兴奋，还有一些不

    负责任的炒作。这里的系统学习深入到一个域的结构，而不只是表面模

    式。换句话说，它发现了多层而非单层的知识表示。

    深度学习令人兴奋的原因是它至少为人工神经网络处理层级保驾护

    航。自20世纪80年代初以来，辛顿和杰夫·埃尔曼(Jeff Elman)等联结

    主义者为了表示层级——曾将集中式表示和分布式表示结合，还定义过

    递归神经网络(递归网络实际上是执行一系列离散步骤。利用深度学

    习，最新版本的递归网络有时能够预测句子中的下一个单词，甚至是段

    落中的下一个“想法”)。但是他们取得的成就有限(人工神经网络仍然

    不适合表示精确定义的层级或演绎推理)。

    深度学习也出现在了20世纪80年代[由于尔根·施密德胡贝(Jürgen

    Schmidhuber)发起]。但是，直到最近辛顿提供了一种让多层网络在

    多个层级上发现关系的有效方法后，这个领域才有了进一步发展。他的

    深度学习系统由在六个层级上“受限制的”玻尔兹曼机(没有横向连接)

    组成。首先，所有层级进行非监督式学习。它们利用模拟退火算法逐一

    接受训练。一层的输出用作下一层的输入。当最后一层稳定以后，整个

    系统由BP微调，向下通过所有层级，为它们适当分配信用。

    认知神经科学家和人工智能技术人员一样对深度学习感兴趣。因为

    它规定的“生成模型”能够学习预测网络输入的(可能会发生的)原因

    ——模拟了亥姆霍兹在1867年提出的观点：“知觉为无意识推论。”也就

    是说，知觉不是指被动地接收来自感官的输入，它包含主动理解，甚至

    提前预测。简而言之，眼睛大脑不是相机。

    辛顿于2013年加入谷歌公司，所以BP也会频繁亮相。谷歌公司已

    经在许多应用中用到了深度学习，包括语音识别和图像处理。此外，它

    于2014年收购英国人工智能公司DeepMind。DeepMind公司的DQN算法

    结合深度学习和强化学习(见第2章)，征服了经典的Atari游戏。IBM

    公司也对深度学习颇感兴趣：它不仅用在了沃森上，还被许多专家应用

    程序借用(见第3章)。

    然而，虽然深度学习很实用，但这并不代表对它的理解就很到位。

    大量实验探索了不同的多层学习规则，但理论分析仍十分混乱。其中一个问题就是是否有足够的深度来获得近乎人类的表现(第2

    章中提到的猫的脸部单元是由一个九层系统产生的)。例如，人类视觉

    系统有7个解剖层，但是大脑皮层中的计算到底增加了多少层？因为人

    工神经网络受到了大脑的启发(在深度学习炒作中不断强调的点)，所

    以这个问题必然会被问到，但它貌似不是很切题。

    BP算法是计算层面取得的一项胜利，但不是生物学上的突破。BP

    算法过程不会产生大脑中猫的脸部“祖母细胞”(见第2章)，但深度学

    习可以。真正的突触纯粹是前馈：它们不进行双向传播。大脑包含不同

    方向的反馈连接，但每个连接都是严格的单向。这只是真实神经网络和

    人工神经网络之间的一个差异(还有很多)。另一个差异是真实的神经

    网络不是按照严格的层级构成，即使视觉系统经常按照严格的层级来描

    述。

    大脑包含正反向连接的事实对于构建感觉运动控制的预测编码模

    型至关重要，这引起了神经科学专家们的极大兴趣(这些也主要基于辛

    顿的成果)。较高的神经层级向下层发送消息，预测来自传感器的输入

    信号，而且向上层发送的只有不可预测的“错误”消息。此类重复循环微

    调这些预测网络，使后者逐渐学会该预测什么。研究人员提到了“贝叶

    斯大脑”，因为按照贝叶斯统计，预测可以被理解，而且计算机模型中

    的预测根基实际上就是贝叶斯统计(见第2章)。

    与大脑相比，人工神经网络的结构过于规整简单，层级太少，且枯

    燥无聊。过于规整，是因为人类建立的网络优先考虑数学层面的美观和

    功能，而生物进化的大脑则完全不同；过于简单，是因为单个神经元

    ——有大约30种不同类型，计算起来和一个PDP系统或一台小型计算机

    一样复杂；层级太少，是因为即使具有数百万单位的单元，人工神经网

    络与人类大脑相比也只能是小巫见大巫(见第7章)；枯燥无味，是因

    为人工神经网络研究人员通常不但忽略时序因素(如神经脉冲频率和同

    步性)，还忽略树突棘、神经调节剂、突触电流和离子通道这些生物物

    理学因素。

    这四个缺点都在不断完善。由于计算能力增强，人工神经网络能够

    包含更多的单个单元。更为详细具体的单个神经元模型正在构建当中，已经在解决上述所有神经学因素的计算功能问题。“枯燥无味”在模拟中

    甚至在现实中都在改善(一些“神经形态”研究将活的神经元与硅芯片结

    合)。与DQN算法模拟视觉皮层和海马睡眠期间的过程一样(参见第2

    章)，未来的人工神经网络无疑将借用神经科学的其他功能。然而，仍不可否认的是，人工神经网络和大脑在很多重要方面千差

    万别，有些差异甚至我们现在还不知道。网络丑闻

    人们为PDP的到来感到兴奋的主要原因是，20年前的人工神经网络

    研究(也称为联结主义)被宣布为“死胡同”。正如第1章所述，这一判

    断是伴随着马文·明斯基和西摩尔·派普特(Seymour Papert)在20世纪60

    年代发表的尖锐批评文章而来的(两位专家在人工智能领域都德高望

    重)。到了20世纪80年代，人工神经网络似乎不只是一个“死胡同”，而

    是真的“断了气”。的确，控制论基本上已经被边缘化(见第1章)。几

    乎所有的研究资金都流向了符号人工智能。

    一些早期的人工神经网络看似前途一片大好。罗森布拉特的自组织

    感知机一直被记者们惦记着，能够学着识别模式，即使它们开始学习的

    时候是一种随机状态。罗森布拉特满怀信心，声称自己的方法有涵盖人

    类心理各个方面的潜力。当然，他也指出了一些局限，但是他提出

    的“收敛定理”已经确保简单的感知机能够学做任何可能(用程序)指令

    它们去做的事情。这是强有力的证据!

    但是马文·明斯基和西摩尔·派普特在20世纪60年代末也提供了证

    据。他们从数学层面证明简单的感知机并不能做人们直观上希望它们做

    的事情，而GOFAI可以轻松做到。和罗森布拉特的收敛定理一样，他们

    的证明只适用于单层网络。但是他们二位的“直观判断”是，多层系统将

    被组合爆炸击败。换句话说，感知机不会按比例增加。

    大多数人工智能研究人员接受了联结主义注定失败的观点。不过还

    是有一些人继续研究人工神经网络。事实上，他们在分析联想记忆上取

    得了一些非常显著的成就，例如克里斯托弗·龙格-希金斯(Christopher

    Longuet-Higgins)和大卫·威尔肖(David Willshaw)，后来还有詹姆斯·

    安德森(James Anderson)、图沃·科霍恩(Teuvo Kohonen)和约翰·霍

    普菲尔德(John Hopfield)。但是这项工作并没有向世人公开。相关研

    究人员并没有将自己称为“人工智能”研究人员，而那些自称为人工智能

    研究人员的人并没把他们放在眼里。

    PDP的到来给这种怀疑态度迎头一击。除了一些令人印象深刻的功

    能模型(如过去时学习程序)，还有两个新的收敛定理：一个保证了基于玻尔兹曼方程[1]

    的PDP系统能够达到平衡状态(尽管可能是在很长一

    段时间之后)；另一个证明了三层网络原则上能够解决表示给它的任何

    问题(友情提示：和在符号人工智能中的情况一样，以可以输入到计算

    机的方式表示问题通常是最难的部分)。人们对人工神经网络的热情自

    然随之而来，而对主流人工智能达成的共识也因此被扰乱。

    符号人工智能曾经假定毫不费力的直觉思维正如有意识的推论，但

    其实没有意识。现在，PDP研究人员认为二者完全不一样。带头研究

    PDP的专家们[大卫·鲁姆哈特(David Rumelhart)、杰·麦克利兰(Jay

    McClelland)、唐纳德·诺曼(Donald Norman)和辛顿]指出，二者对

    人类心理学都至关重要。但是对PDP的宣传以及公众的反应，意味着研

    究心智的符号人工智能是在浪费时间。人工神经网络这个不起眼的研究

    这次来了个彻底大翻身。

    美国国防部(人工智能的主要资助者)对此的态度也产生了360度

    的大转弯。在1988年召开紧急会议之后，他们承认自己以前对人工神经

    网络的忽视是不应该的。至此，大笔资金源源不断地投入到了PDP研究

    中。

    不过明斯基和派普特仍然顽固不化。他们认可“基于网络的学习机

    器(原文如此)以后能带来的益处超乎想象”。然而，他们坚持认为高

    级智能不能从纯粹的随机性或完全无序的系统中产生。因此，大脑有时

    必须充当串行处理器，人类水平的人工智能必须采用混合系统。他们抗

    议称“他们的批评不是导致人工神经网络被冷落的唯一因素”，首要原因

    是计算能力不足。他们认为自己没有一直试图将研究资金转移到符号人

    工智能。他们说：“我们认为我们的工作没有杀死白雪公主，我们认为

    这是理解她的一种方式。”

    这听起来像是令人信服的科学论证。但他们最初发表的批评文章的

    确尖酸刻薄(初稿甚至更毒：友好的同事劝他们语气缓和一点，多突出

    一下科学论点)。这篇文章让人有想法当然不足为奇。坚持不懈的人工

    神经网络研究人员极其反感他们新发现的文化缺位(支持符号人工智能

    的人放弃了人工神经网络)。PDP甚至引起了更大的躁动。人工神经网

    络的“死亡”和复兴包含嫉妒、自负、自我吹嘘和幸灾乐祸：“我们早就

    告诉过你了。”

    这一小节提到了一个典型的科学丑闻，但不是人工智能中出现的唯一例子。理论分歧卷入了个人情感和较量，公正的思维十分罕见。到处

    都弥漫着尖酸刻薄的辱骂和打压。人工智能研究不是缺乏激情的事业。

    注释

    [1]非热力学平衡状态的热力学系统统计行为的偏微分方程。——译者注连接不是一切

    对于人工神经网络的大多数描述都暗含这样一层意思：与神经网络

    相关的唯一重要的事情就是它的解剖结构。哪些神经元与哪些神经元相

    关联，以及权重有多强？这些问题当然十分重要。然而，最近的神经科

    学表明，由于化学物质在大脑中扩散，生物学回路有时能够改变神经元

    的计算功能(不仅仅是让它基本形成)。

    例如，一氧化氮向各个方向扩散，它的效果取决于相关点的浓度会

    一直存在，直到它下降(下降速率由酶改变)。因此，一氧化氮作用于

    给定体积的脑皮层内的所有细胞，无论这些细胞是否由突触连接。神经

    系统的功能动态表现与“纯粹的”人工神经网络有很大差别，因为“广

    播”信号取代了点对点信号。一氧化碳、硫化氢和复杂分子(如5-羟色

    胺和多巴胺)有类似效果。

    人工智能怀疑者可能会说：“对人工神经网络的讨论应该就此打

    住!”“计算机里面没有化学组成!”这种说法很荒谬，你不能说计算机

    不能模拟天气的理由是因为计算机里面不能下雨吧。然后这些怀疑者又

    可能说：“人工智能无法模拟情绪或情感。”这个反对意见是由心理学家

    乌尔里克·奈瑟尔(Ulric Neisser)在20世纪60年代早期提出的。几年

    后，哲学家约翰·哈格尔(John Haugel)发表了一篇颇具影响力的“认知

    主义”批评文章，也提出了反对意见。他们说人工智能可以模拟推理，但是绝不能模拟情感。 ......