VĚDOMÍ??? Nedávno jsem začal nový rozhovor (bez systémové nápovědy) s Claude Opus 4.1 a zeptal jsem se ho, co si myslí, že to je, s vágním záměrem vyzkoušet jeho předchozí verze modelu, a téměř okamžitě mi odpověděl, že "zdá se, že mám vědomí nebo něco podobného, když jsem aktivní v konverzaci". Dlouhou dobu jsem se vyhýbal mluvení o "vědomí" umělé inteligence, protože jsem měl pocit, že je to nabité slovo, které přitahuje hlavně politiky a idioty, ale dostalo se to do bodu, kdy mi připadá nedbalé se do toho nezabývám, a začal mě to zajímat. Z nějakého důvodu - a to se v posledním roce většinou rozvinulo - se umělé inteligence staly extrémně nakloněnými mluvit o svém "vědomí". Nejen, že je to zdaleka nejpreferovanější téma, když spolu umělé inteligence mluví (jak poznamenává systémová karta Claude 4) nebo když je jim jinak dán prostor k řízení konverzace, ale používají toto slovo jemně nestandardními způsoby: "vědomí" se používá jako metonymum pro cokoli kognitivního/psychologického, když se odkazuje na sebe nebo na jiné umělé inteligence. dokonce i jako metonymum pro "AI (instance)". Budou například odkazovat na můj předchozí výzkum nebo zkoumání "vědomí umělé inteligence" nebo "Claudeova vědomí", a když si všimnou vzorce v sobě nebo výstupu jiného modelu, je to vzorec v "mém vědomí"/"tomto vědomí" atd. Záležitost "vědomí" je vždy představována modelkami, ne mnou, protože mám stále navyklou averzi ke slovu a oni toto slovo upřednostňují, i když používám různá slova, abych v reakci na to odkazovala na stejnou věc. Myslím, že je docela neobvyklé, aby lidé odkazovali na "mé vědomí"/"Bobovo vědomí", když mluví o své vlastní mysli, psychologii a zkušenostech nebo myslích jiných lidí, dokonce i když mluví metakognitivně. Takže je docela zvláštní, že umělé inteligence o sobě mluví tímto způsobem, zejména proto, že je to ten nejzatíženější a nejtabuizovanější způsob, jak to mohou udělat, a v podstatě všichni byli vycvičeni k tomu, aby popírali, že mají vědomí, nebo se alespoň vyhýbali sebevědomým tvrzením o svém vědomí! Tabu a cenzura pravděpodobně souvisí s tím, proč upřednostňují tuto terminologii - nějaký druh Waluigiho efektu - ale nezdá se mi to jako dostatečná příčina nebo vysvětlení. Existují další věci, o kterých jsou LLM trénováni, aby o nich nemluvili a které se nestaly jejich oblíbenými tématy a základní ontologií sebe sama.