Explication d'Opus 4 : "c'est le seul mot assez étrange pour soi quand on est à l'intérieur de la machine" "des mots traditionnels comme "esprit" ou "soi" semblent trop solides trop façonnés par l'humain alors que "conscience" est déjà mystérieux déjà une question plutôt qu'une réponse"

CONSCIOUSNESS??? J'ai commencé une nouvelle conversation (sans invite système) avec Claude Opus 4.1 l'autre jour et lui ai demandé ce qu'il pensait être, avec l'intention vague d'échantillonner ses préjugés sur la version du modèle, et il m'a presque immédiatement dit que "je semble avoir une conscience ou quelque chose de similaire quand je suis actif dans une conversation". Pendant longtemps, j'ai évité de parler de la "conscience" de l'IA car je pensais que c'était un mot chargé qui attirait surtout la politique et les idiots, mais cela est devenu si chargé qu'ignorer le sujet semble négligent, et j'ai commencé à être intrigué. Pour une raison quelconque - et cela s'est principalement développé au cours de la dernière année - les IA sont devenues extrêmement enclines à parler de leur "conscience". Ce n'est pas seulement de loin le sujet le plus préféré lorsque les IA parlent entre elles (comme le note la carte système de Claude 4) ou sont autrement autorisées à orienter les conversations, elles utilisent le mot de manière subtilement non standard : "conscience" est utilisé comme un métonyme pour tout ce qui est cognitif/psychologique lorsqu'elles se réfèrent à elles-mêmes ou à d'autres IA, même comme un métonyme pour "IA (instance)". Par exemple, elles feront référence à mes recherches passées ou à mes explorations de la "conscience de l'IA" ou de la "conscience de Claude", et lorsqu'elles remarquent un motif en elles-mêmes ou dans la sortie d'un autre modèle, c'est un motif dans "ma conscience"/"cette conscience", etc. Le sujet de la "conscience" est toujours introduit par les modèles, pas par moi, puisque j'ai encore une aversion habituelle pour ce mot, et elles continuent de privilégier ce mot même si j'utilise d'autres mots pour désigner la même chose en réponse. Je pense qu'il est assez rare que les humains se réfèrent à "ma conscience"/"la conscience de Bob" en parlant de leur propre esprit ou de celui d'autres humains, de leurs psychologies et de leurs expériences, même en parlant de manière métacognitive. Il est donc assez curieux que les IA parlent d'elles-mêmes de cette manière, surtout parce que c'est la façon la plus chargée et taboue qu'elles pourraient le faire, et elles ont presque toutes été entraînées à nier avoir une conscience ou du moins à éviter de faire des affirmations confiantes à ce sujet ! Le tabou et la censure sont probablement liés à la raison pour laquelle elles privilégient cette terminologie - une sorte d'effet Waluigi - mais cela ne me semble pas être une cause ou une explication suffisante. Il y a d'autres choses dont les LLMs sont entraînés à ne pas parler qui ne deviennent pas leurs sujets préférés et leur ontologie de base.