caí en un agujero de conejos de lesswrong después de volver a leer 'cómo se ve el fracaso' de paul christiano (salió en la curva y estoy luchando por entender los escenarios de 'pérdida de control') y hombre, toda la teoría de decisiones simplemente se encuentra instantáneamente con el problema de la detención de inmediato.

determinar si un programa dado producirá un símbolo particular para entradas particulares es semi-decidible y, por lo tanto, equivalente al problema de la detención. Cualquier teoría de decisión basada en 'leer el código fuente del otro agente' se desmorona debido a este hecho.

de hecho, cualquier teoría de decisiones *reflexiva* se desmorona debido a este hecho. tdt, et. al. solo funcionan en situaciones donde los agentes no son completos de Turing. no es muy útil.

sin embargo, las cosas de la incertidumbre lógica se mantienen bastante bien.

@azsantosk de hecho, aquí hay una opinión salvaje y no fundamentada; añadir probabilidad nos lleva de un entorno discreto a uno continuo y eso es lo que elimina la indecidibilidad sería un teorema tan hermoso

@azsantosk así que o estamos por encima o por debajo de Turing

@azsantosk o omega tiene hipercomputación (es un mago) o nuestros agentes no son muy interesantes

@azsantosk ciertamente, entonces no soy capaz de auto-modificación y muchas otras cosas presuponen las diversas teorías de decisión en less wrong dot com