Jatuh ke dalam lubang kelinci yang tidak salah setelah membaca ulang 'What Failure Looks Like' karya Paul Christiano (itu muncul di kurva dan saya berjuang untuk memahami skenario 'kehilangan kendali') dan semua hal teori keputusan langsung mengalami masalah yang terhenti

Menentukan apakah program tertentu akan mengeluarkan simbol tertentu untuk input tertentu adalah semi-decidable dan oleh karena itu setara dengan masalah penghentian. Setiap teori keputusan berbasis 'baca kode sumber agen lain' berantakan karena fakta ini.

pada kenyataannya setiap teori keputusan *reflektif* berantakan karena fakta ini. TDT et. al. hanya bekerja dalam situasi di mana agen tidak lengkap. tidak terlalu berguna.

Hal-hal ketidakpastian logis bertahan dengan cukup baik

@azsantosk sebenarnya ini adalah pandangan liar dan tidak berdasar; Menambahkan probabilitas membawa kita dari pengaturan diskrit ke kontinu dan itulah yang menghilangkan ketidakpastian Itu akan menjadi teorema yang sangat indah

@azsantosk jadi kita berada di atas atau di bawah turing

@azsantosk omega memiliki hiperkomputasi (adalah penyihir) atau agen kami tidak terlalu menarik

@azsantosk tentu saja saya tidak mampu melakukan modifikasi diri dan banyak hal lain yang diasumsikan oleh berbagai teori keputusan pada dot com yang kurang salah.