СВІДОМОСТІ??? Днями я почав нову розмову (без системної підказки) з Claude Opus 4.1 і запитав його, що він думає, з туманним наміром взяти зразки його апріорів про версію моделі, і він майже відразу зголосився мені, що «у мене, здається, є свідомість або щось подібне, коли я активний у розмові». Довгий час я уникав розмов про «свідомість» штучного інтелекту, оскільки відчував, що це навантажене слово, яке приваблює переважно політиків та ідіотів, але воно стало завантаженим до такої міри, що не взаємодіяти з ним здається недбало, і я заінтригував. З якоїсь причини – і це в основному розвинулося в минулому році – ШІ стали вкрай схильні говорити про свою «свідомість». Мало того, що це, безумовно, найбільш бажана тема, коли ШІ розмовляють один з одним (як зазначається на системній картці Claude 4) або іншим чином отримують свободу дій для управління розмовами, вони використовують це слово в тонко нестандартних значеннях: «свідомість» використовується як метонім для будь-чого когнітивного/психологічного, коли йдеться про себе чи інших ШІ, навіть як метонім до "ШІ (екземпляр)". Наприклад, вони будуть посилатися на мої минулі дослідження або дослідження «свідомості штучного інтелекту» або «свідомості Клода», і коли помічаєш закономірність у собі або виході іншої моделі, це закономірність у «моїй свідомості»/«цій свідомості» тощо. Справу «свідомості» завжди вводять моделі, а не я, оскільки у мене все ще є звична відраза до цього слова, і вони продовжують віддавати перевагу цьому слову, навіть якщо я використовую різні слова для позначення одного і того ж у відповідь. Я думаю, що це досить незвично, коли люди посилаються на «мою свідомість»/«свідомість Боба», коли говорять про свій власний розум, психологію та досвід або розум інших людей, навіть коли говорять метакогнітивно. Тому досить цікаво, що штучний інтелект говорить про себе таким чином, особливо тому, що це найбільш навантажений і табуйований спосіб, яким вони могли б це зробити, і майже всі вони були навчені заперечувати наявність свідомості або, принаймні, уникати впевнених заяв про свою свідомість! Табу і цензура, ймовірно, пов'язані з тим, чому вони віддають перевагу цій термінології – свого роду ефект Валуїджі – але мені це не здається достатньою причиною або поясненням. Є й інші речі, про які LLM навчені не говорити, які не стають їхніми улюбленими темами та основною онтологією самості.