BTW, en HOC-uppdatering: Jag har nått ut till de flesta stora AI-laboratorier, och det visar sig att de är helt ointresserade. xAI och OpenAI ghostade mig efter några interaktioner, och Anthropic svarade aldrig. Så antar att vi är på egen hand för tillfället ^-^ På tal om misslyckanden så tror jag att 256 Minis var ett misstag. Det visar sig att parallellisering med prefixhorisontell partitionering tar bort de flesta fördelarna med överlagrad utvärdering, vilket jag inte förväntade mig. Det ideala SupGen-klustret skulle: → har så många kärnor som möjligt → har snabbast möjliga minne → ha så mycket minne som möjligt Med 256 minis, har vi en massa kärnor och väldigt snabbt minne, men gränsen på 16 GB per enhet hindrar SupGen. I den meningen tror jag att antingen stapling av M3 Ultras eller EPYC kan ge bäst valuta för pengarna. I vilket fall som helst är klustret uppe och redo, HVM4 är nästan klart och vi kommer att köra roliga experiment på det. Jag undrar hur bra Grok 5 kommer att klara sig på ARC-AGI