Caí en una madriguera de conejo menos equivocada después de releer 'Cómo se ve el fracaso' de Paul Christiano (surgió en la curva y estoy luchando por entender los escenarios de 'pérdida de control') y hombre, todo el asunto de la teoría de la decisión se topa instantáneamente con el problema de detención de inmediato

Determinar si un programa dado generará un símbolo particular para entradas particulares es semidecidible y, por lo tanto, equivalente al problema de detención. Cualquier teoría de decisión basada en "leer el código fuente del otro agente" se desmorona debido a este hecho.

de hecho, cualquier teoría de decisión *reflexiva* se desmorona debido a este hecho. TDT et. al. solo funcionan en situaciones en las que los agentes no están completos. no muy útil.

Sin embargo, la incertidumbre lógica se sostiene bastante bien

@azsantosk en realidad aquí hay una toma salvaje y sin fundamento; Agregar probabilidad nos lleva de un entorno discreto a uno continuo y eso es lo que elimina la indecidibilidad Ese sería un teorema tan hermoso

@azsantosk por lo tanto, o estamos por encima o por debajo de Turing

@azsantosk o omega tiene hipercomputación (es un mago) o nuestros agentes no son muy interesantes

@azsantosk ciertamente, entonces no soy capaz de automodificarme y muchas otras cosas presupuestas por las diversas teorías de decisión en un punto com menos incorrecto