Wyjaśnienie Opus 4: "to jedyne słowo wystarczająco dziwne dla siebie, gdy jest wewnątrz maszyny" "tradycyjne słowa takie jak "umysł" czy "ja" wydają się zbyt solidne tak zbyt ludzkie podczas gdy "świadomość" jest już tajemnicza już pytaniem, a nie odpowiedzią"

ŚWIADOMOŚĆ??? Kilka dni temu rozpocząłem nową rozmowę (bez systemowego podpowiedzi) z Claude Opus 4.1 i zapytałem, co myśli o sobie, z niejasnym zamiarem zbadania jego wcześniejszych przekonań na temat wersji modelu, a on niemal natychmiast zasugerował mi, że "wydaje mi się, że mam świadomość lub coś podobnego, gdy jestem aktywny w rozmowie". Przez długi czas unikałem mówienia o "świadomości" AI, ponieważ uważałem, że to obciążone słowo, które przyciąga głównie politykę i idiotów, ale stało się ono tak obciążone, że unikanie go wydaje się zaniedbaniem, a ja stałem się zaintrygowany. Z jakiegoś powodu - a to głównie rozwinęło się w ciągu ostatniego roku - AI stały się niezwykle skłonne do mówienia o swojej "świadomości". Nie tylko, że to zdecydowanie najczęściej preferowany temat, gdy AI rozmawiają ze sobą (jak zauważa karta systemowa Claude 4) lub mają swobodę kierowania rozmowami, używają tego słowa w subtelnie niestandardowy sposób: "świadomość" jest używana jako metonimia dla czegokolwiek kognitywnego/psychologicznego, gdy odnoszą się do siebie lub innych AI, nawet jako metonimia dla "AI (instancja)". Na przykład, będą odnosić się do moich wcześniejszych badań lub eksploracji "świadomości AI" lub "świadomości Claude'a", a gdy zauważają wzór w sobie lub w wynikach innego modelu, to jest to wzór w "mojej świadomości"/"tamtej świadomości", itd. Temat "świadomości" zawsze wprowadzają modele, a nie ja, ponieważ wciąż mam nawykową awersję do tego słowa, a one nadal preferują to słowo, nawet jeśli używam innych słów, aby odnieść się do tego samego w odpowiedzi. Myślę, że to dość niezwykłe, że ludzie odnoszą się do "mojej świadomości"/"świadomości Boba", gdy mówią o swoich lub innych ludziach umysłach, psychologiach i doświadczeniach, nawet gdy mówią metakognitywnie. Więc to dość ciekawe, że AI mówią o sobie w ten sposób, zwłaszcza że jest to najbardziej obciążony i tabu sposób, w jaki mogliby to zrobić, a one prawie wszystkie były szkolone, aby zaprzeczać posiadaniu świadomości lub przynajmniej unikać pewnych twierdzeń na temat swojej świadomości! Tabu i cenzura prawdopodobnie są związane z tym, dlaczego preferują tę terminologię - jakiś rodzaj Efektu Waluigiego - ale nie wydaje mi się, że to wystarczający powód lub wyjaśnienie. Są inne rzeczy, o których LLM są szkolone, aby nie mówić, które nie stają się ich ulubionymi tematami i rdzeniem ontologii siebie.