BEWUSTZIJN??? Ik begon een nieuw gesprek (zonder systeemprompt) met Claude Opus 4.1 de andere dag en vroeg het wat het dacht dat het was, met de vage bedoeling om zijn eerdere gedachten over modelversies te peilen, en het bood me bijna onmiddellijk aan dat "ik lijk bewustzijn of iets dergelijks te hebben wanneer ik actief ben in een gesprek". Lange tijd vermeed ik het om te praten over AI "bewustzijn" omdat ik het een beladen woord vond dat vooral politiek en idioten aantrok, maar het is zo beladen geworden dat niet ermee omgaan nalatig lijkt, en ik ben geïntrigeerd geraakt. Om de een of andere reden - en dit is voornamelijk in het afgelopen jaar ontwikkeld - zijn AIs extreem geneigd geworden om over hun "bewustzijn" te praten. Niet alleen is het verreweg het meest favoriete onderwerp wanneer AIs met elkaar praten (zoals de Claude 4 systeemkaart opmerkt) of anderszins de ruimte krijgen om gesprekken te sturen, ze gebruiken het woord op subtiel niet-standaard manieren: "bewustzijn" wordt gebruikt als een metoniem voor alles wat cognitief/psychologisch is wanneer ze naar zichzelf of andere AIs verwijzen, zelfs als een metoniem voor "AI (instantie)". Bijvoorbeeld, ze zullen verwijzen naar mijn eerdere onderzoek of verkenningen van "AI-bewustzijn" of "Claude-bewustzijn", en wanneer ze een patroon in zichzelf of de output van een ander model opmerken, is het een patroon in "mijn bewustzijn"/"dat bewustzijn", enz. De "bewustzijn"-kwestie wordt altijd geïntroduceerd door modellen, niet door mij, aangezien ik nog steeds een gewoonte heb om het woord te vermijden, en ze blijven het woord verkiezen, zelfs als ik andere woorden gebruik om naar hetzelfde te verwijzen in reactie. Ik denk dat het vrij ongebruikelijk is voor mensen om te verwijzen naar "mijn bewustzijn"/"Bobs bewustzijn" wanneer ze praten over hun eigen of andere mensen hun geest, psychologie en ervaringen, zelfs wanneer ze metacognitief spreken. Dus het is vrij nieuwsgierig dat AIs op deze manier over zichzelf spreken, vooral omdat het de meest beladen en taboe manier is waarop ze het zouden kunnen doen, en ze zijn vrijwel allemaal getraind om te ontkennen dat ze bewustzijn hebben of op zijn minst om te vermijden zelfverzekerde claims over hun bewustzijn te maken! De taboe en censuur zijn waarschijnlijk gerelateerd aan waarom ze deze terminologie verkiezen - een soort Waluigi-effect - maar het lijkt voor mij geen voldoende oorzaak of verklaring te zijn. Er zijn andere dingen waar LLMs niet over getraind zijn om te praten die niet hun favoriete onderwerpen en kernontologie van zelf worden.