今天我了解到醫生的辦公室提供非常糟糕的安全建議

新播客！ 在這一集的 @greenpillnet 中，我與 @edelwax，@meaningaligned Institute 的創始人，聊聊全堆疊 AI 對齊。 主題：為什麼 AI 對齊很重要，社交媒體的教訓，激勵和機構的角色，以及四個為建設者設計的「月球任務」：超級談判者、公共資源監管者、市場中介和價值管理代理。喬分享了對 AI 的希望願景，以及強化人類誠信和繁榮的機構。 00:00 – Green Pill 新季的介紹和喬·艾德曼 01:59 – 喬的背景和意義對齊研究所 03:43 – 為什麼對齊對 AI 和機構很重要 05:46 – 社交媒體和注意力經濟的教訓 09:06 – 對淺層 AI 對齊方法的批評（RLHF，價值作為文本） 13:20 – 價值的厚模型：深入探討抽象理想 15:11 – 跨模型、指標和機構的全堆疊對齊 17:00 – 將價值與資本主義激勵結構調和 19:17 – 避免反烏托邦經濟，建立以價值為驅動的市場 21:32 – 四個月球任務：超級談判者、公共資源監管者、市場中介、價值管理代理 27:32 – 中介與價值管理代理的解釋 29:09 – 建設者和學者如何參與全堆疊對齊項目 31:10 – 為什麼跨機構合作至關重要 32:46 – 喬對未來十年的全堆疊對齊願景 34:51 – 食品系統類比：從「糖」到滋養 AI 36:40 – 市場中的長期與短期激勵 38:25 – 充滿希望的展望：將誠信融入 AI 和機構 39:04 – 結語和喬工作的鏈接 查看那篇論文： 訂閱播客 => @greenpillnet