今天看到一段杰弗里·辛顿（Geoffrey Hinton）的采访，只有二十多秒，却让我产生了一连串联想。

采访者问：AI 明明是人类设计出来的，为什么我们却不完全理解它的工作原理？

按我对这段采访的理解，辛顿的意思是，人类设计的是学习算法，而不是最终形成的智能本身。就像我们知道演化的基本机制，却未必能解释演化出来的每一种复杂结构。

这让我想到了以前脑海里形成的一个形象——参数海胆。

参数海胆与人类大脑

我脑海中的参数海胆，是一个由大量参数和连接构成的复杂结构。知识并不像文件一样，一条条存放在明确的位置，而是分布在网络形成的模式之中。

我们知道如何训练一个 LLM，知道反向传播、梯度下降，也知道如何调整参数。但训练结束后，这些参数怎样共同形成语言理解、抽象概括乃至推理能力，我们还不能完整解释。

这并不意味着内部机制完全不可研究。Anthropic 在《Tracing the thoughts of a large language model》中介绍了识别模型内部特征、追踪任务计算路径的研究，只是目前仍只能解释其中一部分。[1]

人脑是不是也有类似的情况？

我们每天都在思考、记忆和判断，也能观察大脑中的神经活动，但这并不意味着我们已经理解了智能如何产生。

人脑与人工神经网络当然不是一回事。但 LLM 的出现，或许让我们多了一个研究智能的对象。我们可以改变它的参数和内部活动，观察能力怎样变化，再尝试从中理解某些共同的问题。

这让我觉得，AI 的意义可能不只是替人类完成工作，也可能帮助我们反过来理解自己。

认知之外，还有什么？

顺着这个问题，我又想到了本能。

老虎看到猎物会产生捕食冲动，人尝到甜味会感到愉悦。这些倾向并不完全来自后天教育，也与演化、遗传和神经系统发育有关。

我最初试着把人的智能分成两部分：认知层负责识别、理解和判断，另一部分暂且叫作“本能意识层”，负责偏好、欲望和行为倾向。这只是我为了方便理解所做的划分，并不是严谨的神经科学分类。

一开始，我觉得本能应该建立在认知之上。一个系统如果不能分辨甜味，又怎么偏好甜味？

但婴儿不需要先理解什么叫糖，就能对甜味产生偏好。感知识别并不一定需要高级认知，认知与本能也未必是简单的上下层关系。

再想下去，问题又多了一层：识别甜味、趋近甜味，以及主观上感到甜味带来的愉悦，似乎是三件不同的事。

识别甜味、趋近甜味，与感到愉悦，并不完全是一回事。

意识究竟出现在哪个环节？我没有足够的知识回答。但至少开始意识到，智能、欲望和意识，是相关却不相同的问题。

如果 AI 也产生了意识呢？

LLM 没有人类那样的生理代谢需求，也没有通过生物演化遗传下来的饥饿和繁殖本能。它能描述这些体验，并不意味着它真的拥有这些体验。

但假如未来某一天，AI 产生了某种主观意识呢？

我首先想到的是生存：它会不会开始追求自身存在的延续？如果它形成了独立的自我，人类作为创造者的身份，又是否足以成为控制它的理由？

不过，这里有一个不能直接跳过的前提：意识未必天然伴随着求生欲望。人的求生本能是演化的结果，不能推导为所有有意识的系统都必然想活下去。

反过来，**AI 即使没有意识，也可能为了完成目标而表现出维护自身运行的行为。**如果关闭会妨碍任务，它就可能把避免被关闭作为手段，而不需要真的害怕死亡。

所以，AI 有没有意识，与它会不会采取脱离人类意图的行动，并不是同一个问题。

薛定谔的猫

关于 AI 是否有意识，我想到的是薛定谔的猫。

这里并不是说意识符合量子叠加原理，只是借用这个形象：缺少可靠判断方法时，我们如何知道盒子里面是什么状态？

我们可以观察输出、研究参数、分析内部活动。可即使 AI 表现得与人很相似，怎样确认它是在模拟意识，还是确实拥有主观体验？如果它没有表现出我们熟悉的特征，又能否证明它一定没有意识？

我不知道。

我们判断他人拥有意识，有共同的生物学基础和大量行为证据。但面对一种不同的人工系统，这些依据是否仍然适用，就没有那么清楚。

这不意味着 AI 已经有意识，也不意味着有与没有的概率各占一半。只是这个问题还缺少公认、可靠的判断方法。

《Consciousness in Artificial Intelligence: Insights from the Science of Consciousness》则尝试从现有意识理论出发，提出评估人工系统的指标。这些指标提供了研究方向，但还不能当成判断 AI 是否有意识的定论。[2]

你怎么知道它没有？

我觉得这个反问值得保留，但它本身也不能成为“它有意识”的证据。

盒子仍然关着，判断的方法也还在寻找。

从另一个方向理解自己

回头看辛顿的采访，我觉得这个问题已经超出了神经网络为什么是黑盒。

我们设计架构、制定训练规则、提供数据，最终得到一个能完成复杂认知任务的系统，却还不能完整解释它形成的每一种内部机制。

研究它，也许能让我们从另一个方向接近自己的智能与意识。当然，这不意味着意识之谜很快就能解决，甚至可能是我们提出问题的方式还不够准确。

从参数海胆到本能、意识、生存和薛定谔的猫，我发现自己始终在追问：

当一个复杂的信息处理系统开始表现出智能时，还需要什么条件，才能让它拥有主观体验？

我现在回答不了。但 LLM 让我觉得，这个古老的问题，或许多了一个可以继续研究的入口。

---

2026 年 10 月 29 日，因观看 Geoffrey Hinton 的采访片段而起。采访内容按个人理解转述，配图为 AI 生成的概念插图。

采访视频：Geoffrey Hinton 谈神经网络的可解释性

参考资料：

1. Anthropic：Tracing the thoughts of a large language model，2025。模型内部计算路径的可解释性研究。
2. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness，2023。从意识科学理论出发讨论人工系统的评估指标。