中文屋

先看一个让人不安的可能性

假设有一个程序，你用中文问它什么，它都答得和母语者一样自然。它懂中文吗？

直觉上想说”当然懂，不然怎么答得出”。Searle 1980 年设计了一个场景，专门攻击这个直觉。

朴素判据，以及它漏了什么

朴素判据就是模仿游戏：分辨不出就算懂。这个判据的好处是可操作，坏处是它只看输入输出，不看中间发生了什么。

Searle 的问题是：如果中间什么理解都没发生，行为一致还算不算懂？

机制：把自己放进那个房间

设定是这样的：Searle 本人被锁在一个房间里，收到一批中文文字。他不懂中文——按原文的说法，中文在他看来就是一堆无意义的鬼画符（meaningless squiggles）。

房间里有一本英文规则书，告诉他：看到这样形状的符号，就写出那样形状的符号。他照做，把结果递出窗外。

房外的中文母语者看到的是流畅的中文对答。房内的 Searle 全程不知道自己在说什么。

结论：他通过了测验，却完全不懂中文。所以通过测验不足以证明理解。

回访：这动摇了什么

它不否认机器能通过模仿游戏。它主张通过了也不构成理解——因为符号操作（syntax）本身产生不了意义（semantics）。

Searle 用 intentionality（意向性）这个词指”心理状态关于某物”的那种性质，并主张这是纯符号系统缺的东西。原文里这个词出现了两百多次，它才是全篇真正的主角。

边界与常见误解

**它不是在说机器永远不能思考。**Searle 明确认为大脑是机器且能思考，他反对的是”运行正确程序就足够”这个特定主张（他称之为 strong AI）。

**最强的反驳是”系统回应”。**懂中文的不是屋里那个人，而是”人+规则书+房间”这整个系统。Searle 的回答是让那个人把规则全部背下来——系统就只剩他一个人了，而他仍然不懂。这一步是否成立，四十多年没有共识。