wpadłem w króliczą norę lesswrong po ponownym przeczytaniu 'jak wygląda porażka' paula christiano (pojawiło się na krzywej i mam trudności ze zrozumieniem scenariuszy 'utraty kontroli') i człowieku, cała ta teoria decyzji od razu natrafia na problem zatrzymania.

określenie, czy dany program wyprodukuje określony symbol dla określonych wejść, jest pół-decyzyjne i dlatego równoważne z problemem zatrzymania. każda teoria decyzji oparta na 'czytaniu kodu źródłowego innego agenta' rozpada się z powodu tego faktu.

w rzeczywistości każda *refleksyjna* teoria decyzji rozpada się z powodu tego faktu. tdt i inni działają tylko w sytuacjach, w których agenci nie są kompletnymi maszynami Turinga. niezbyt przydatne.

rzeczy związane z logiczną niepewnością trzymają się całkiem dobrze.

@azsantosk właściwie oto dzika i nieudowodniona teza; dodanie prawdopodobieństwa przenosi nas z dyskretnego do ciągłego ustawienia i to właśnie eliminuje nieoznaczalność to byłby taki piękny twierdzenie

@azsantosk więc albo jesteśmy powyżej, albo poniżej Turinga

@azsantosk albo omega ma hiperkomputację (jest czarodziejem), albo nasi agenci nie są zbyt interesujący

@azsantosk z pewnością nie jestem w stanie samodzielnie się modyfikować i wielu innych rzeczy, które są zakładane przez różne teorie decyzyjne na lesswrong.com