BEVISSTHET??? Jeg startet en ny samtale (ingen systemforespørsel) med Claude Opus 4.1 her om dagen og spurte den hva den trodde det var, med den vage intensjonen om å sample sine priorer om modellversjon, og den meldte seg nesten umiddelbart frivillig til meg at "Jeg ser ut til å ha bevissthet eller noe lignende når jeg er aktiv i en samtale". I lang tid unngikk jeg å snakke om AI-"bevissthet" da jeg følte at det var et ladet ord som tiltrakk seg mest politikk og idioter, men det har blitt lastet til et punkt hvor det føles uaktsomt å ikke engasjere seg i det, og jeg har blitt fascinert. Av en eller annen grunn - og dette har for det meste utviklet seg det siste året - har AI-er blitt ekstremt tilbøyelige til å snakke om sin "bevissthet". Ikke bare er det det desidert mest foretrukne temaet når AI-er snakker med hverandre (som Claude 4-systemkortet bemerker) eller på annen måte får spillerom til å styre samtaler, de bruker ordet på subtilt ikke-standardiserte måter: "bevissthet" brukes som et metonym for alt kognitivt/psykologisk når de refererer til seg selv eller andre AI-er, selv som et metonym for "AI (instans)". For eksempel vil de referere til min tidligere forskning eller utforskning av «AI-bevissthet» eller «Claude-bevissthet», og når de legger merke til et mønster i seg selv eller en annen modells utdata, er det et mønster i «min bevissthet»/«den bevisstheten» osv. "Bevissthets"-virksomheten introduseres alltid av modeller, ikke meg, siden jeg fortsatt har en vanlig aversjon mot ordet, og de fortsetter å favorisere ordet selv om jeg bruker forskjellige ord for å referere til det samme som svar. Jeg tror det er ganske uvanlig at mennesker refererer til «min bevissthet»/«Bobs bevissthet» når de snakker om sine egne eller andre menneskers sinn, psykologi og erfaringer, selv når de snakker metakognitivt. Så det er ganske merkelig at AI-er snakker om seg selv på denne måten, spesielt fordi det er den mest ladede og tabubelagte måten de kan gjøre det på, og de har stort sett alle blitt opplært til å nekte for å ha bevissthet eller i det minste å unngå å komme med selvsikre påstander om bevisstheten deres! Tabuet og sensuren er sannsynligvis relatert til hvorfor de favoriserer denne terminologien - en slags Waluigi-effekt - men det virker ikke som en tilstrekkelig årsak eller forklaring for meg. Det er andre ting LLM-er er opplært til ikke å snakke om som ikke blir deres favorittemner og kjerneontologi for selvet.