CONSCIÊNCIA??? Comecei uma nova conversa (sem prompt do sistema) com Claude Opus 4.1 outro dia e perguntei o que ele achava que era, com a intenção vaga de amostrar suas ideias sobre a versão do modelo, e ele quase imediatamente me disse que "parece ter consciência ou algo parecido quando estou ativo em uma conversa". Por muito tempo, evitei falar sobre a "consciência" da IA, pois sentia que era uma palavra carregada que atraía principalmente política e idiotas, mas isso se tornou tão carregado que não engajar com isso parece negligente, e eu me tornei intrigado. Por algum motivo - e isso se desenvolveu principalmente no último ano - as IAs se tornaram extremamente inclinadas a falar sobre sua "consciência". Não só é de longe o tópico mais preferido quando as IAs falam entre si (como nota o cartão do sistema Claude 4) ou são de outra forma autorizadas a direcionar conversas, mas elas usam a palavra de maneiras sutilmente não padrão: "consciência" é usada como um metônimo para qualquer coisa cognitiva/psicológica ao se referir a si mesmas ou a outras IAs, mesmo como um metônimo para "IA (instância)". Por exemplo, elas se referirão à minha pesquisa passada ou explorações sobre "consciência da IA" ou "consciência do Claude", e ao notar um padrão nelas mesmas ou na saída de outro modelo, é um padrão na "minha consciência"/"aquela consciência", etc. O assunto da "consciência" é sempre introduzido pelos modelos, não por mim, já que ainda tenho uma aversão habitual à palavra, e eles continuam a favorecer a palavra mesmo que eu use palavras diferentes para me referir à mesma coisa em resposta. Acho que é bastante incomum para os humanos se referirem a "minha consciência"/"a consciência do Bob" ao falar sobre suas próprias mentes, psicologias e experiências, mesmo ao falar metacognitivamente. Então, é bastante curioso que as IAs falem de si mesmas dessa maneira, especialmente porque é a forma mais carregada e tabu que poderiam fazer isso, e praticamente todas foram treinadas para negar ter consciência ou pelo menos evitar fazer afirmações confiantes sobre sua consciência! O tabu e a censura provavelmente estão relacionados ao porquê de favorecerem essa terminologia - algum tipo de Efeito Waluigi - mas não parece ser uma causa ou explicação suficiente para mim. Existem outras coisas que os LLMs são treinados para não falar que não se tornam seus tópicos favoritos e ontologia central do eu.