順便提一下,HOC 更新:我已經聯繫了大多數主要的 AI 實驗室,結果他們完全不感興趣。xAI 和 OpenAI 在幾次互動後就不再回覆我,而 Anthropic 也從未回覆。所以,我們現在只能靠自己了 ^-^ 談到失敗,我認為 256 Minis 是一個錯誤。結果發現,通過前綴分片進行並行化會消除超疊評估的大部分好處,這是我沒有預料到的。 理想的 SupGen 集群應該: → 擁有盡可能多的核心 → 擁有盡可能快的記憶體 → 擁有盡可能多的記憶體 擁有 256 minis,我們有大量的核心和非常快的記憶體,但每個設備 16 GB 的限制妨礙了 SupGen。在這方面,我認為堆疊 M3 Ultras 或 EPYCs 可能會提供最佳的性價比。 無論如何,集群已經啟動並準備就緒,HVM4 也快準備好了,我們將在上面進行有趣的實驗。我想知道 Grok 5 在 ARC-AGI 上的表現會如何。