物理符号系统假说

1975 年，纽厄尔与西蒙同获图灵奖。按惯例得奖者要做一场演讲，他们没有回顾成就，而是把二十年的工作压成了一句可以被反驳的话。

那二十年的起点在 1955–56 年的冬天。纽厄尔、西蒙与程序员克利夫·肖一起做出了"逻辑理论家"（Logic Theorist）——公认最早的人工智能程序之一。它做的事在今天看来仍然古怪：它证明数学定理。它翻过《数学原理》第二章的前 52 条定理，独立证出了其中 38 条，而且给出的某些证明比罗素与怀特海手工推演的更短、更漂亮。

问题是：它凭什么能做到？那台机器里没有任何"数学"，只有一堆按规则被搬来搬去的符号。它不理解蕴含，不理解否定，甚至不知道自己在证明什么。可它证出来了。

这件事逼出了一个此后半个世纪没有平静过的问题：如果一台只会搬符号的机器能做数学，那么"会思考"这件事，会不会本来就是"搬符号"？反过来问更刺人——如果不是，那么一颗大脑除了搬符号之外，还多做了什么？

纽厄尔与西蒙的答案是：什么也没多做。1976 年 3 月，他们把这个答案写进《计算机科学作为经验探究：符号与搜索》，登在《ACM 通讯》上。

标题里那个词值得停一下：经验探究。他们主张计算机科学不是数学的一支，是一门实验科学——每造一台机器、每写一个程序，都是一次实验。而他们提出的那句话，也不是定理，是一个可以被后来的实验推翻的假说。这一点后来被引用者集体忘掉了：那是一份赌注，不是一条信条。

那篇论文给出两个并列的假说。第一个成了整个领域的纲领。

第二个假说同样出自那篇论文，被引用的次数少得多，而它才是这套东西真正能跑起来的那一半。

把两句合起来，就是那个统治了 AI 前三十年的公式：智能 ＝ 表示 ＋ 搜索。先把世界写成符号结构，再在这些结构组成的空间里聪明地找路。——本篇后面全部的故事，都是这两半各自的命运：一半赢得干干净净，另一半输得倾家荡产。

这句话真正大胆的地方，是它把"思考"从材料里拆了出来。

在它之前，人们默认智能与某种特殊的东西有关——灵魂、生命、神经组织的某种化学性质。纽厄尔与西蒙说的是：都不是。智能是一类操作，不是一类物质。只要一样东西能拿住可区分的模式、能把它们拼成结构、能按规则改写这些结构，它就在做与你思考时相同的那件事——至于它由铁和电构成，还是由碳和水构成，与此无关。

一台机器不需要"懂"数学，才能做出数学；它只需要正确地搬动那些代表数学的符号。

第二层意思藏在"搜索"里，而且比第一层更实用。按这套说法，绝大多数思考不是灵光一闪，是在一个巨大的可能性空间里走路。下棋是在走法的空间里走，证明是在推导的空间里走，规划是在行动序列的空间里走，写作是在句子的空间里走。而这些空间大到荒唐——一盘国际象棋的合法对局数远超宇宙原子总数。

于是聪明这件事被重新定义了。它不是"算得更多"，是"看得更少"。一个大师与一个新手的差别，常常不在于他往下算了多少步，而在于他一眼就把百分之九十九的走法从视野里删掉了，而且删对了。这与 №079 是同一个人写下的同一件事：他在经济学那边说人算不完所以只能满意化，在计算机这边说机器也算不完，所以要靠启发式。

第三层是这套假说最容易被读反的地方，必须当场校准：它不是在说"人脑就是一台计算机"。它说的是"具备必要且充分的手段"——这是一个关于功能的主张，不是关于实现的主张。就像"心脏是一台泵"并不意味着心脏由金属和活塞构成，它只意味着：凡是心脏做的事，一台足够好的泵都能做，而且不做泵所做的事，你就不是心脏。

最后是分寸问题。这句话是一个经验假说，它的两半可被检验的程度完全不同。"充分"那一半说的是"造得出来"，可以靠造出一台来证实；"必要"那一半说的是"只能这样"，一个不这样却也聪明的东西就足以推翻它。——记住这个不对称，后面第六节的全部力气都花在它上面。

这一节要说的核心只有一句：这个假说的两半命运完全不同——一半几乎无法被驳倒，另一半被打得几乎站不住；而唯一带信息量的恰恰是后一半。

• ① "充分"那一半近乎不可证伪，"必要"那一半才有内容——而它输了。在足够宽泛的读法下，任何在数字计算机上运行的东西都可以被描述成一个物理符号系统——包括一个千亿参数的神经网络，因为它归根结底也是在按规则搬动位模式。于是"符号系统足以产生智能"变得几乎无法被任何观察推翻。
  真正有内容的是另一半：任何智能都必须是符号系统。而今天最像智能的那些系统，其内部是一片分布式的、连续的、没有人能读出单个含义的权重——那不是任何通常意义上的"符号结构"。一个假说如果只剩下它无法被驳倒的那一半还站着，它已经输掉了大半。
• ② 中文屋：行为与理解之间那道缝，四十多年没有合上。塞尔 1980 年那篇论文与同期二十余篇评论一起发表，此后成为该刊被讨论最多的文章之一，而争论至今没有定论。系统回应、机器人回应、大脑模拟器回应各有力量，塞尔的再反驳也各有力量。
  本站不站队，只留下那个可以随身携带的分辨："这个系统能做对这件事"与"这个系统知道自己在做什么"，是两个不同的命题，而只有前者是可以被测量的。——把可测的那个当成不可测的那个的证据，是今天关于机器智能的讨论里最常见的一次跳跃。
• ③ 常识与框架问题：不是"还没写完"，是"写不完"。麦卡锡与海耶斯 1969 年提出框架问题：当你做了一个动作，除了它改变的那几样东西之外，世界上其余所有事情没有改变——而这件"什么都没变"的事，在一个符号系统里必须被显式地说出来，且要说无穷多次。
  德雷福斯当年判断这是原则性的障碍而非工程量问题，Cyc 用四十年、人-世纪级的投入给出了目前为止最有分量的一次经验回答（案例 05）。这不是说常识不可能被处理，而是说"由人手工枚举"这条路已经被走过并且走不通。
• ④ 莫拉维克悖论：难与易的顺序整个反了。莫拉维克 1988 年那句原话是："要让计算机在智力测验或下棋上表现出成年人水平相对容易，而要让它具备一岁小孩在感知和移动上的技能，则困难甚至不可能。"
  这与假说的预测正好相反。如果智能的核心真是符号操作，那么最先被攻克的应该是那些最依赖符号的活动——而事实确实如此；可问题在于，那些最不依赖符号的活动（认脸、抓杯子、在杂乱房间里走路）反而成了最难的。一个合理的解释是演化给的：感知与运动被打磨了几十亿年，符号推理只有几百万年。换句话说：我们一开始就把智能里最薄的那一层，当成了它的核心。
• ⑤ 最贵的两种误用，方向正好相反。其一是把它读成"人脑就是一台计算机"——原文说的是"具备必要且充分的手段"，这是关于功能的主张，不是关于实现的主张；把功能等价读成结构相同，是把一个谨慎的假说降格成一句口号。
  其二是拿深度学习的成功宣布"符号主义已死"——而搜索从未离开（蒙特卡洛树搜索、束搜索、推理时反复采样与验证），显式的结构与外部工具也正在大规模回来。今天最强的系统，几乎都是"学出来的表示"加上"搜出来的答案"。这既不是符号主义的胜利，也不是它的葬礼。

最后补一条方向相反的：这套东西最结实的部分，可能不是那两句假说，而是它们标题里的那三个字——"经验探究"。"计算机科学是一门实验科学，每一个被造出来的系统都是一次实验，纲领性的主张必须以能被推翻的形式写下来"——这句方法论至今没有被推翻，而且它恰恰是今天大模型研究的实际工作方式：做出来，测一测，看它到底能不能。

先标明分寸：这是一个关于机器与心智的假说，它几乎不改变你今天的任何决定。以下五条不是它的推论，是从这段五十年的实验史里提出来的判断习惯——第六节⑤讲的正是这类借用最常见的翻车方式。

• 分清"能做对"与"懂" 中文屋留下的唯一一条可以天天用的东西。面试、验收、教学、评估一个模型——"它在我出的题上答对了"与"它理解这件事"是两个命题，而只有前者可测。
  可操作的做法只有一个：换一个不在准备范围内的问法，再试一次。能在没见过的变形上站得住，才开始构成"理解"的证据；只在标准题上答得漂亮，你测到的可能只是那本手册有多厚。同一把尺子对自己也成立——见 №076 那三条替身指标。
• 表示比搜索难：卡住时换问题的写法，不要再多想几个方案 GPS 的教训（案例 02）。人的直觉总以为难点在"想不出办法"，而实际的难点几乎总在"这个问题该怎么摆"。方案想不出来，多半不是脑子不够，是问题的写法不对。
  可操作：换记账单位（№082 把"存量"换成"两股流量"就是一次表示的更换）、换边界（谁在里面谁在外面）、换目标（把"选出最好的"换成"达到某条线就算成功"，最优解会整个变形）。换对一次表示，往往顶得上想一百个方案。
• "把规则一条条写进去"的成本曲线 XCON 与 Cyc 的合并教训。凡是靠人工枚举规则运行的系统——风控细则、审批流程、运营 SOP、写死的策略引擎——在窄而稳的领域里极其好用，一旦领域变宽或世界开始变，维护成本会超线性地涨，而且改一条会打坏另外十条。
  动手之前先答一道判断题：这个领域里需要被写下来的规则数量，会不会随时间线性以上地增长？会——那么你现在做的不是一个系统，是一份会持续变贵的债务。这与 №005 是一对：规则越细，被绕过的方式也越多。
• 押注时问一句：它靠什么变好 萨顿那条教训的借用版，明标为类比。面对一个长期方案，问：它是靠"我们把更多的人的理解塞进去"变好，还是靠"给它更多资源，它自己变好"？前者短期内几乎总是领先——因为人的理解是真的管用；后者赢在时间够长的时候。
  诚实的边界：苦涩的教训是 AI 研究的经验总结，不是普遍定律。在数据稀缺、规则由法律写死、单次错误代价极高的地方，人写进去的知识仍然占优——而这几种情形并不罕见。
• 听到"某某就是某某"，先问它是不是个假说 "人脑就是计算机""思维就是计算""意识只是幻觉""这个模型已经在推理了""语言模型只是在做统计"——这类句子有一个共同点：它们听起来像结论，实际上多半是立场。
  两个追问：这是关于功能的主张，还是关于实现的主张？有没有一个可能出现的观察，会让说这句话的人承认自己错了？第二问答不上来，你听到的就是一个信条，不是一个假说。而纽厄尔与西蒙那篇论文，标题的第一句话就是"计算机科学作为经验探究"——他们把自己那句最大胆的主张，明确地放在了可以被推翻的位置上。这一点比那句主张本身更值得学。

• Allen Newell & Herbert A. Simon《Computer Science as Empirical Inquiry: Symbols and Search》 Communications of the ACM 19(3), 1976, pp.113–126 — 原典，1975 年图灵奖演讲；两条假说都在里面，篇幅不长且写得极清楚
• Allen Newell & Herbert A. Simon《Human Problem Solving》 Prentice-Hall, 1972 — 近千页；出声思维协议、手段—目的分析、问题空间的完整版本，认知科学的奠基文本之一
• Hubert L. Dreyfus《What Computers Still Can't Do: A Critique of Artificial Reason》 MIT Press, 1992（初版《What Computers Can't Do》1972）— 本篇最推荐的批评文献；请连同 1965 年兰德报告《Alchemy and Artificial Intelligence》一起读，看它当年被嘲笑了什么
• John R. Searle《Minds, Brains, and Programs》 Behavioral and Brain Sciences 3(3), 1980, pp.417–457 — 中文屋；请连同同期二十余篇同行评论与塞尔的逐条回应一起读，那部分比论文本身更有用
• Rodney A. Brooks《Intelligence Without Representation》 Artificial Intelligence 47, 1991, pp.139–159 — 另附《Elephants Don't Play Chess》Robotics and Autonomous Systems 6, 1990, pp.3–15；两篇合起来是身体化路线的宣言
• Allen Newell《Unified Theories of Cognition》 Harvard University Press, 1990（1987 年威廉·詹姆斯讲座）— 纽厄尔最后一部大书，Soar 架构；他 1992 年去世
• Richard S. Sutton《The Bitter Lesson》 2019，在线短文（incompleteideas.net）— 不到两千字；本篇第四卡的出处，也是对 1976 年那个公式最锋利的一次半平反半判决
• 维基百科：Physical symbol system en.wikipedia.org/wiki/Physical_symbol_system — 索引入口；另可参见 Chinese room、Moravec's paradox、Frame problem、Cyc 四个条目