A căzut într-o gaură de iepure mai puțin greșită după ce am recitit "Cum arată eșecul" lui Paul Christiano (a apărut la curbă și mă străduiesc să înțeleg scenariile de "pierdere a controlului") și omule, toate chestiile cu teoria deciziei se lovesc instantaneu de problema opririi imediat

Determinarea dacă un anumit program va scoate un anumit simbol pentru anumite intrări este semi-decidibilă și, prin urmare, echivalentă cu problema de oprire. Orice teorie a deciziei bazată pe "citiți codul sursă al celuilalt agent" se destramă din cauza acestui fapt.

de fapt, orice teorie a deciziei *reflexive* se destramă din cauza acestui fapt. TDT et. al. Lucrați numai în situații în care agenții nu sunt completi. nu foarte util.

Chestia cu incertitudinea logică rezistă destul de bine

@azsantosk de fapt iată o abordare sălbatică și nefondată; adăugarea probabilității ne duce de la o setare discretă la una continuă și asta este ceea ce elimină indecidibilitatea Aceasta ar fi o teoremă atât de frumoasă

@azsantosk deci fie suntem deasupra, fie sub Turing

@azsantosk fie omega are hipercalcul (este un vrăjitor), fie agenții noștri nu sunt foarte interesanți

@azsantosk cu siguranță nu sunt capabil de auto-modificare și multe alte lucruri presupuse de diferitele teorii ale deciziei pe puncte com mai puțin greșite