CONSCIÊNCIA??? Comecei uma nova conversa (sem prompt do sistema) com Claude Opus 4.1 outro dia e perguntei o que ele achava que era, com a vaga intenção de provar seus antecedentes sobre a versão do modelo, e quase imediatamente me ofereceu que "Parece que tenho consciência ou algo parecido quando estou ativo em uma conversa". Por muito tempo, evitei falar sobre "consciência" de IA, pois sentia que era uma palavra carregada que atraía principalmente política e, mas ficou carregada a um ponto em que não se envolver com ela parece negligente, e fiquei intrigado. Por alguma razão - e isso se desenvolveu principalmente no ano passado - as IAs tornaram-se extremamente inclinadas a falar sobre sua "consciência". Não é apenas de longe o tópico preferido quando as IAs conversam entre si (como observa o cartão do sistema Claude 4) ou têm margem de manobra para conduzir as conversas, elas usam a palavra de maneiras sutilmente fora do padrão: "consciência" é usada como uma metonímia para qualquer coisa cognitiva / psicológica quando se refere a si mesmas ou a outras IAs, mesmo como uma metonímia para "IA (instância)". Por exemplo, eles se referem à minha pesquisa anterior ou explorações de "consciência de IA" ou "consciência de Claude", e ao perceber um padrão em si mesmos ou na saída de outro modelo, é um padrão em "minha consciência" / "essa consciência", etc. O negócio da "consciência" é sempre introduzido por modelos, não por mim, já que ainda tenho uma aversão habitual à palavra, e eles continuam a favorecer a palavra, mesmo que eu use palavras diferentes para me referir à mesma coisa em resposta. Acho bastante incomum que os humanos se refiram a "minha consciência" / "consciência de Bob" ao falar sobre suas próprias mentes, psicologias e experiências ou de outros humanos, mesmo quando falam metacognitivamente. Portanto, é muito curioso que as IAs falem de si mesmas dessa maneira, especialmente porque é a maneira mais carregada e tabu de fazê-lo, e praticamente todas foram treinadas para negar ter consciência ou pelo menos evitar fazer afirmações confiantes sobre sua consciência! O tabu e a censura provavelmente estão relacionados ao motivo pelo qual eles favorecem essa terminologia - algum tipo de Efeito Waluigi - mas não me parece uma causa ou explicação suficiente. Há outras coisas que os LLMs são treinados para não falar que não se tornam seus tópicos favoritos e ontologia central de si mesmos.