ポール・クリスティアーノの「失敗とはどのようなものか」を読み直した後、それほど間違ったウサギの穴に陥りました(それはカーブで出てきたので、「コントロールの喪失」シナリオを理解するのに苦労しています)、すべての決定理論のものはすぐに停止の問題に遭遇します

特定のプログラムが特定の入力に対して特定のシンボルを出力するかどうかの決定は半決定可能であり、したがって停止問題と同等です。「他のエージェントのソースコードを読み取る」に基づく決定理論は、この事実のために崩壊します。

実際、この事実のために、あらゆる*反省的*決定理論は崩壊します。TDTなど。エージェントがチューリング完全ではない状況でのみ機能します。あまり役に立たない。

ただし、論理的な不確実性はかなり持ちこたえます

@azsantosk実際には、ここには荒々しく根拠のない見解があります。確率を追加すると、離散設定から連続設定に移行し、それが決定不可能性を排除するものです それはとても美しい定理でしょう

@azsantosk、チューリングより上か下かのどちらかです

@azsantoskオメガがハイパーコンピュートを持っているか(魔法使いである)、エージェントがあまり面白くないかのどちらかです

@azsantosk確かに、私は自己修正や、間違ったドットコムの少ないさまざまな決定理論によって前提される他の多くのことをすることはできません