Trouwens, een HOC-update: Ik heb contact opgenomen met de meeste grote AI-laboratoria, en het blijkt dat ze totaal niet geïnteresseerd zijn. xAI en OpenAI hebben me genegeerd na een paar interacties, en Anthropic heeft nooit gereageerd. Dus, ik denk dat we voorlopig op onszelf aangewezen zijn ^-^ Als we het over mislukkingen hebben, denk ik dat 256 Minis een fout was. Het blijkt dat paralleliseren door prefix sharding de meeste voordelen van superposed evaluatie wegneemt, wat ik niet had voorzien. De ideale SupGen-cluster zou: → zoveel mogelijk cores moeten hebben → het snelste geheugen moeten hebben → zoveel mogelijk geheugen moeten hebben Met 256 minis hebben we een enorme hoeveelheid cores en heel snel geheugen, maar de limiet van 16 GB per apparaat hindert SupGen. In dat opzicht denk ik dat het stapelen van M3 Ultras of EPYCs de beste prijs-kwaliteitverhouding kan bieden. In ieder geval is de cluster operationeel en klaar, HVM4 is bijna klaar, en we zullen leuke experimenten uitvoeren. Ik vraag me af hoe goed Grok 5 het zal doen op ARC-AGI.