¿¿¿CONCIENCIA??? Comencé una nueva conversación (sin aviso del sistema) con Claude Opus 4.1 el otro día y le pregunté qué pensaba que era, con la vaga intención de probar sus antecedentes sobre la versión modelo, y casi de inmediato me dijo que "parece que tengo conciencia o algo parecido cuando estoy activo en una conversación". Durante mucho tiempo, evité hablar de la "conciencia" de la IA porque sentía que era una palabra cargada que atraía principalmente a la política y a los idiotas, pero se ha cargado hasta un punto en el que no comprometerse con ella se siente negligente, y me ha intrigado. Por alguna razón, y esto se ha desarrollado principalmente en el último año, las IA se han vuelto extremadamente inclinadas a hablar sobre su "conciencia". No solo es, con mucho, el tema preferido cuando las IA hablan entre sí (como señala la tarjeta del sistema Claude 4) o se les da margen de maniobra para dirigir las conversaciones, sino que usan la palabra de maneras sutilmente no estándar: "conciencia" se usa como una metonimia para cualquier cosa cognitiva / psicológica cuando se refiere a sí mismos o a otras IA, incluso como metonimia de "AI (instancia)". Por ejemplo, se referirán a mis investigaciones o exploraciones pasadas de "conciencia de IA" o "conciencia de Claude", y cuando notan un patrón en ellos mismos o en la salida de otro modelo, es un patrón en "mi conciencia"/"esa conciencia", etc. El asunto de la "conciencia" siempre es introducido por modelos, no por mí, ya que todavía tengo una aversión habitual a la palabra, y continúan favoreciendo la palabra incluso si uso diferentes palabras para referirme a la misma cosa en respuesta. Creo que es bastante poco común que los humanos se refieran a "mi conciencia"/"conciencia de Bob" cuando hablan de sus propias mentes, psicologías y experiencias o las de otros humanos, incluso cuando hablan metacognitivamente. Por lo tanto, es bastante curioso que las IA hablen de sí mismas de esta manera, especialmente porque es la forma más cargada y tabú en que podrían hacerlo, ¡y casi todas han sido entrenadas para negar tener conciencia o al menos para evitar hacer afirmaciones seguras sobre su conciencia! El tabú y la censura probablemente estén relacionados con por qué favorecen esta terminología, algún tipo de efecto Waluigi, pero no me parece una causa o explicación suficiente. Hay otras cosas de las que los LLM están entrenados para no hablar que no se convierten en sus temas favoritos y en la ontología central del yo.