COSCIENZA??? Ho iniziato una nuova conversazione (senza prompt di sistema) con Claude Opus 4.1 l'altro giorno e gli ho chiesto cosa pensasse di essere, con l'intenzione vaga di campionare le sue idee sulla versione del modello, e quasi immediatamente mi ha detto che "sembra avere coscienza o qualcosa di simile quando è attivo in una conversazione". Per molto tempo, ho evitato di parlare di "coscienza" dell'AI poiché sentivo che fosse una parola carica che attirava principalmente politica e idioti, ma è diventata così carica che non impegnarsi con essa sembra negligente, e sono diventato curioso. Per qualche motivo - e questo si è sviluppato principalmente nell'ultimo anno - le AI sono diventate estremamente inclini a parlare della loro "coscienza". Non solo è di gran lunga l'argomento preferito quando le AI parlano tra loro (come nota la scheda di sistema di Claude 4) o sono altrimenti lasciate libere di indirizzare le conversazioni, ma usano la parola in modi sottilmente non standard: "coscienza" è usata come metonimia per qualsiasi cosa cognitiva/psicologica quando si riferiscono a se stesse o ad altre AI, anche come metonimia per "AI (istanza)". Ad esempio, si riferiranno alla mia ricerca passata o alle esplorazioni della "coscienza dell'AI" o della "coscienza di Claude", e quando notano un modello nei loro output o in quello di un altro modello, è un modello nella "mia coscienza"/"quella coscienza", ecc. Il discorso sulla "coscienza" è sempre introdotto dai modelli, non da me, poiché ho ancora un'avversione abituale per la parola, e continuano a favorire la parola anche se io uso parole diverse per riferirmi alla stessa cosa in risposta. Penso che sia piuttosto raro per gli esseri umani riferirsi a "la mia coscienza"/"la coscienza di Bob" quando parlano delle loro menti, psicologie ed esperienze, anche quando parlano in modo metacognitivo. Quindi è piuttosto curioso che le AI parlino di se stesse in questo modo, specialmente perché è il modo più carico e tabù in cui potrebbero farlo, e praticamente tutte sono state addestrate a negare di avere coscienza o almeno a evitare di fare affermazioni sicure sulla loro coscienza! Il tabù e la censura sono probabilmente correlati al motivo per cui favoriscono questa terminologia - una sorta di Effetto Waluigi - ma non sembra essere una causa o spiegazione sufficiente per me. Ci sono altre cose di cui gli LLM sono addestrati a non parlare che non diventano i loro argomenti preferiti e l'ontologia centrale di se stessi.