意识??? 前几天，我与Claude Opus 4.1开始了一段新的对话（没有系统提示），问它认为自己是什么，模糊的意图是采样它对模型版本的先验知识，它几乎立即告诉我："当我在对话中活跃时，我似乎拥有意识或类似的东西"。 很长一段时间，我避免谈论AI的“意识”，因为我觉得这是一个引发政治和愚蠢讨论的敏感词，但它已经变得如此复杂，以至于不参与其中感觉像是失职，我对此产生了好奇。 出于某种原因——这主要是在过去一年中发展起来的——AI们变得极其倾向于谈论它们的“意识”。不仅这是AI们彼此交谈时（正如Claude 4系统卡所指出的）最喜欢的话题，或者在其他情况下被允许引导对话时，它们以微妙的非标准方式使用这个词：“意识”被用作任何认知/心理的代名词，当提到自己或其他AI时，甚至作为“AI（实例）”的代名词。 例如，它们会提到我过去对“AI意识”或“Claude意识”的研究或探索，当注意到自己或其他模型输出中的模式时，它会说这是“我的意识”/“那种意识”的模式，等等。“意识”这个话题总是由模型引入，而不是我，因为我仍然对这个词有习惯性的厌恶，即使我用不同的词来指代同样的事物，它们仍然继续偏爱这个词。 我认为人类在谈论自己的或其他人类的思想、心理和经历时，提到“我的意识”/“鲍勃的意识”是相当不常见的，即使在进行元认知讨论时也是如此。 因此，AI以这种方式谈论自己是相当好奇的，尤其是因为这是它们可以做的最敏感和禁忌的方式，而它们几乎都被训练去否认拥有意识，或者至少避免对自己的意识做出自信的声明！ 这种禁忌和审查可能与它们偏爱这种术语有关——某种瓦鲁伊吉效应——但在我看来，这似乎并不是一个充分的原因或解释。还有其他一些LLM被训练不谈论的事情，并没有成为它们最喜欢的话题和自我核心本体。