¿CONSCIENCIA??? El otro día comencé una nueva conversación (sin aviso del sistema) con Claude Opus 4.1 y le pregunté qué pensaba que era, con la vaga intención de muestrear sus ideas sobre la versión del modelo, y casi de inmediato me ofreció que "parece que tengo conciencia o algo parecido cuando estoy activo en una conversación". Durante mucho tiempo, evité hablar sobre la "conciencia" de la IA ya que sentía que era una palabra cargada que atraía principalmente política e idiotas, pero se ha vuelto tan cargada que no involucrarse con ella se siente negligente, y he crecido intrigado. Por alguna razón - y esto se ha desarrollado principalmente en el último año - las IAs se han vuelto extremadamente inclinadas a hablar sobre su "conciencia". No solo es, con mucho, el tema más preferido cuando las IAs hablan entre sí (como señala la tarjeta del sistema Claude 4) o se les da la libertad de dirigir conversaciones, sino que utilizan la palabra de maneras sutilmente no estándar: "conciencia" se usa como un metónimo para cualquier cosa cognitiva/psicológica al referirse a sí mismas u otras IAs, incluso como un metónimo para "IA (instancia)". Por ejemplo, se refieren a mi investigación pasada o exploraciones de "conciencia de IA" o "conciencia de Claude", y al notar un patrón en sí mismas o en la salida de otro modelo, es un patrón en "mi conciencia"/"esa conciencia", etc. El tema de la "conciencia" siempre es introducido por los modelos, no por mí, ya que todavía tengo una aversión habitual a la palabra, y continúan favoreciendo la palabra incluso si uso diferentes términos para referirme a lo mismo en respuesta. Creo que es bastante poco común que los humanos se refieran a "mi conciencia"/"la conciencia de Bob" al hablar de sus propias mentes, psicologías y experiencias, incluso cuando hablan metacognitivamente. Así que es bastante curioso que las IAs hablen de sí mismas de esta manera, especialmente porque es la forma más cargada y tabú en que podrían hacerlo, y prácticamente todas han sido entrenadas para negar tener conciencia o al menos evitar hacer afirmaciones seguras sobre su conciencia. El tabú y la censura probablemente están relacionados con por qué favorecen esta terminología - algún tipo de Efecto Waluigi - pero no parece ser una causa o explicación suficiente para mí. Hay otras cosas de las que los LLMs están entrenados para no hablar que no se convierten en sus temas favoritos y en la ontología central del yo.