je suis tombé dans un trou de lapin moins juste après avoir relu 'à quoi ressemble l'échec' de paul christiano (cela est apparu à la courbe et j'ai du mal à comprendre les scénarios de 'perte de contrôle') et bon sang, tout le truc de la théorie des décisions se heurte instantanément au problème de l'arrêt.

déterminer si un programme donné produira un symbole particulier pour des entrées particulières est semi-décidable et donc équivalent au problème de l'arrêt. toute théorie de la décision basée sur 'lire le code source de l'autre agent' s'effondre à cause de ce fait.

En fait, toute théorie de décision *réflexive* s'effondre à cause de ce fait. TDT et al. ne fonctionnent que dans des situations où les agents ne sont pas complets de Turing. Pas très utile.

les choses liées à l'incertitude logique tiennent plutôt bien le coup cependant

@azsantosk en fait, voici une prise sauvage et non fondée ; ajouter la probabilité nous fait passer d'un cadre discret à un cadre continu et c'est ce qui élimine l'indécidabilité ce serait un théorème si beau

@azsantosk donc soit nous sommes au-dessus, soit en dessous de Turing

@azsantosk soit omega a une hypercalcul (est un sorcier) soit nos agents ne sont pas très intéressants

@azsantosk certainement, je ne suis donc pas capable de modification personnelle et de beaucoup d'autres choses présupposées par les diverses théories de la décision sur less wrong dot com