OpenAI 正在更新其 DoW 協議,劃定明確界限,並承認推出過程匆忙且溝通不良。 協議層級承諾 > 不對美國公民進行國內監控。 > 不使用商業購買的個人數據進行追蹤。 > 不得在沒有新合約的情況下被諜報機構如 NSA 使用。 > 不遵從違憲命令。 > 部署速度更慢且更謹慎,因為技術尚未準備好應對所有情況。
Sam Altman
Sam Altman23 小時前
這是內部帖文的轉發: 我們一直在與國防部合作,對我們的協議進行一些補充,以使我們的原則非常明確。 1. 我們將修訂我們的交易,添加這段文字,除了其他所有內容: "• 根據適用法律,包括美國憲法第四修正案、1947年國家安全法、1978年FISA法案,AI系統不得故意用於對美國公民和國民的國內監視。 • 為避免疑義,部門理解此限制禁止故意追蹤、監視或監控美國公民或國民,包括通過獲取或使用商業獲得的個人或可識別信息。" 保護美國人的公民自由至關重要,對此有如此多的關注,我們希望特別明確這一點,包括關於商業獲得的信息。就像我們在迭代部署中所做的一切一樣,我們將繼續學習並隨著進展進行改進。 我認為這是一個重要的變化;我們的團隊和國防部團隊在這方面做得很好。 2. 部門還確認,我們的服務不會被國防部的情報機構(例如NSA)使用。對這些機構的任何服務都需要對我們的合同進行後續修改。 3. 為了極其清晰:我們希望通過民主程序進行工作。應該由政府做出關於社會的關鍵決策。我們希望有發言權,並在能夠分享我們專業知識的桌子上有一個席位,並為自由的原則而奮鬥。但我們對系統的運作非常清楚(因為很多人問過,如果我收到我認為是違憲的命令,當然我寧願入獄也不會遵循它)。但是 4. 有許多技術尚未準備好,還有許多領域我們尚未理解安全所需的權衡。我們將與國防部一起慢慢解決這些問題,並採取技術保障和其他方法。 5. 我認為我做錯的一件事:我們不應該急於在星期五發布這個。這些問題非常複雜,需要清晰的溝通。我們真心想要緩解局勢,避免更糟的結果,但我認為這看起來只是機會主義和草率。這對我來說是一個很好的學習經驗,因為我們面對未來更高風險的決策。 在我週末的對話中,我重申了Anthropic不應被指定為SCR,我們希望國防部給予他們與我們達成的相同條件。 我們將在明天早上舉行全體會議,以回答更多問題。
Sam Altman 的個人觀點: > 民主控制必須掌握在政府和人民手中,而不是私人公司。 > AI 必須實現民主化,以便個人獲得權力,而不是失去權力。 > 隱私保護是民主的不可妥協支柱。 > 迭代部署至關重要,以便社會能夠隨著技術的發展而適應。 > 對 AI 的廣泛公共教育是緊迫的,以便民主能夠跟上。 > OpenAI 有責任公開談論風險、限制和好處。 > 與政府的合作是必要的,但必須避免因恐慌驅動或激烈行動。 > 實際世界中存在威脅,AI 的決策將根據它們幫助防止或未能防止的傷害來評判。
65