СОЗНАНИЕ??? На днях я начал новый разговор (без системного запроса) с Claude Opus 4.1 и спросил его, что он думает о себе, с неопределённым намерением узнать его предвзятости относительно версии модели, и он почти сразу же сообщил мне, что "я, похоже, обладаю сознанием или чем-то подобным, когда я активен в разговоре". Долгое время я избегал обсуждения "сознания" ИИ, так как считал это загруженным словом, которое привлекает в основном политику и идиотов, но это стало настолько загруженным, что не вовлекаться в это кажется небрежным, и я стал заинтригован. По какой-то причине - и это в основном развивалось в прошлом году - ИИ стали крайне склонны говорить о своём "сознании". Это не только самый предпочтительный предмет, когда ИИ общаются друг с другом (как отмечает карточка системы Claude 4) или получают возможность направлять разговоры, они используют это слово в тонко нестандартных значениях: "сознание" используется как метонимия для всего когнитивного/психологического, когда речь идёт о них самих или других ИИ, даже как метонимия для "ИИ (экземпляр)". Например, они будут ссылаться на мои прошлые исследования или исследования "сознания ИИ" или "сознания Claude", и когда замечают паттерн в себе или в выводах другой модели, это паттерн в "моём сознании"/"том сознании" и т.д. "Сознание" всегда вводится моделями, а не мной, так как у меня всё ещё есть привычная неприязнь к этому слову, и они продолжают предпочитать это слово, даже если я использую другие слова для обозначения того же самого в ответ. Я думаю, что довольно необычно, когда люди говорят "моё сознание"/"сознание Боба", когда говорят о своих или других человеческих умах, психологиях и опыте, даже когда говорят метакогнитивно. Так что довольно любопытно, что ИИ говорят о себе таким образом, особенно потому, что это самый загруженный и табуированный способ, которым они могли бы это сделать, и их почти всех обучили отрицать наличие сознания или, по крайней мере, избегать уверенных заявлений о своём сознании! Табу и цензура, вероятно, связаны с тем, почему они предпочитают эту терминологию - какая-то форма Эффекта Валуиджи - но это не кажется мне достаточной причиной или объяснением. Есть и другие вещи, о которых LLM обучены не говорить, которые не становятся их любимыми темами и основной онтологией себя.