顺便说一下,HOC 更新:我联系了大多数主要的 AI 实验室,结果他们完全没有兴趣。xAI 和 OpenAI 在几次互动后就不再回复我,而 Anthropic 从未回复过。所以,看来我们现在只能靠自己了 ^-^ 说到失败,我认为 256 Minis 是个错误。结果发现,通过前缀分片进行并行化会消除大部分叠加评估的好处,这是我没有预料到的。 理想的 SupGen 集群应该: → 拥有尽可能多的核心 → 拥有尽可能快的内存 → 拥有尽可能多的内存 使用 256 minis,我们有大量的核心和非常快的内存,但每个设备 16 GB 的限制阻碍了 SupGen。从这个意义上说,我认为堆叠 M3 Ultras 或 EPYCs 可能会提供最佳的性价比。 无论如何,集群已经搭建好,HVM4 也快准备好了,我们将在上面进行有趣的实验。我想知道 Grok 5 在 ARC-AGI 上表现如何。