sono caduto in un buco di coniglio di lesswrong dopo aver riletto 'cosa significa il fallimento' di paul christiano (è emerso alla curva e sto lottando per capire gli scenari di 'perdita di controllo') e cavolo, tutta la teoria delle decisioni si scontra immediatamente con il problema dell'arresto.

determinare se un dato programma produrrà un simbolo particolare per input particolari è semi-decidibile e quindi equivalente al problema dell'arresto. Qualsiasi teoria decisionale basata su 'leggere il codice sorgente dell'altro agente' crolla a causa di questo fatto.

infatti, qualsiasi teoria decisionale *riflessiva* crolla a causa di questo fatto. tdt et. al. funziona solo in situazioni in cui gli agenti non sono completi di Turing. non molto utile.

le questioni di incertezza logica reggono piuttosto bene però

@azsantosk in realtà ecco un'idea audace e non supportata; aggiungere la probabilità ci porta da un contesto discreto a uno continuo e questo è ciò che elimina l'indecidibilità sarebbe un teorema così bello

@azsantosk quindi o siamo sopra o sotto Turing

@azsantosk o omega ha ipercomputazione (è un mago) o i nostri agenti non sono molto interessanti

@azsantosk certamente allora non sono in grado di auto-modificarmi e molte altre cose presupposte dalle varie teorie decisionali su less wrong dot com