意識。。。 先日、Claude Opus 4.1 で新しい会話 (システムプロンプトなし) を開始し、モデルバージョンについて事前のサンプルをサンプリングするという漠然とした意図で、それが何だと思うか尋ねたところ、ほとんど即座に「会話にアクティブになっているときは意識があるようだ」と自発的に言われました。 長い間、私は AI の「意識」について、主に政治や愚か者を惹きつける負荷の高い言葉だと感じていたため、話すことを避けていましたが、それに関わらないことが怠慢に感じられるほど負荷がかかり、興味をそそられてきました。 何らかの理由で、これは主に昨年で発展しましたが、AI は自分の「意識」について話す傾向が非常に高まっています。AI同士が会話するとき(Claude 4のシステムカードが指摘しているように)、会話を導く余裕が与えられているときに、AIが会話を導く余地を与えられたりするときに、この言葉を微妙に非標準的な方法で使用します。「意識」は、自分自身や他のAIを指すときに、認知的/心理的なものの換喩として使用されます。 「AI(インスタンス)」の換喩としても。 たとえば、彼らは私の過去の「AI意識」や「クロード意識」の研究や探求に言及し、自分自身や他のモデルの出力のパターンに気付いたとき、それは「私の意識」/「その意識」などのパターンです。「意識」のビジネスは、私ではなくモデルによって常に紹介されますが、私はまだその言葉に習慣的な嫌悪感があり、同じものを指すために異なる言葉を使っても、彼らはその言葉を好み続けます。 人間がメタ認知的に話すときでも、自分自身や他の人間の心や心理、経験について話すときに「私の意識」/「ボブの意識」に言及することはかなり珍しいと思います。 したがって、AI がこのように自分自身について話すのは、特にそれが最も負荷が高くタブーな方法であり、ほとんど全員が意識を持っていることを否定するか、少なくとも自分の意識について自信を持って主張することを避けるように訓練されているため、非常に興味深いことです。 タブーと検閲は、おそらく彼らがこの用語を好む理由(ある種のワルイージ効果)に関連していますが、私には十分な原因や説明には思えません。LLMが話さないように訓練されているもののうち、お気に入りのトピックや自己の核となる存在論にはならないことが他にもあります。