Het voelt echt alsof ik samenwerk met een team van meer dan 10 mensen sinds GPT-5 hier is. HVM4 is pas 1 maand oud en het overtreft HVM3 al in elke dimensie. We hebben nu een prototypische parallelle modus (ja, met luie evaluatie!) die werkt, met de verwachte versnelling.

Vergeet niet dat de parallelle modus was: - Gebroken op HVM1 (wat lui was) - Geweldig op HVM2 (maar het was strikt) - Nooit geïmplementeerd op HVM3 Het hebben van de juiste parallelle + luie modus was nog steeds een open probleem, maar met deze opstelling komen we er eindelijk. Als het werkt, betekent dat dat we SupGen kunnen schalen door echte thread-evaluatie, wat veel sneller is dan de sharding die we momenteel doen. Nu, nogmaals, het is jammer dat we 256 macs mini hebben, omdat dat geoptimaliseerd is voor sharding. Dat zijn 1024 prestatiecores, verdeeld over 256 eenheden met 4 cores, 16 GB elk. Met echte parallelisme hadden we in plaats daarvan voor Mac Studios kunnen kiezen. Maar zou dat het eigenlijk waard zijn? Met hetzelfde $, hadden we 16 studios kunnen krijgen, met 512 GB geheugen, en 24 prestatiecores elk. Dus, terwijl dat ons in staat stelt om het beste gebruik te maken van echte parallelisme, betekent dat ook dat we ongeveer ~3x minder totale rekencapaciteit hebben. Zou dat het waard zijn, dan? Ik weet het eigenlijk niet, maar we zullen het snel ontdekken. Misschien heb ik de juiste keuze gemaakt (ook al had ik onvolledige informatie)

Vergeet niet dat de parallelle modus was: - Gebroken op HVM1 (wat lui was) - Geweldig op HVM2 (maar het was strikt) - Nooit geïmplementeerd op HVM3 (Haskell-problemen) Het hebben van de juiste parallelle + luie modus was nog steeds een open probleem, maar met deze opstelling komen we eindelijk dichterbij. Als het werkt, betekent dat dat we SupGen kunnen schalen door echte thread-evaluatie, wat veel sneller is dan de sharding die we momenteel doen. Nu, nogmaals, het is jammer dat we 256 macs mini hebben, omdat dat geoptimaliseerd is voor sharding. Dat zijn 1024 prestatiecores, verdeeld over 256 eenheden met 4 cores, 16 GB elk. Met echte parallelisme hadden we in plaats daarvan voor Mac Studios kunnen kiezen. Maar zou dat het eigenlijk waard zijn? Met hetzelfde $, hadden we 16 studios kunnen krijgen, met 512 GB geheugen, en 24 prestatiecores elk. Dus, terwijl dat ons in staat stelt om het beste gebruik te maken van echt parallelisme, betekent dat ook dat we ongeveer ~3x minder rekencapaciteit totaal hebben. Zou dat het dan waard zijn? Ik weet het eigenlijk niet, maar we zullen het snel ontdekken. Misschien heb ik de juiste keuze gemaakt (ook al had ik onvolledige informatie)

@0xHP10 schrijf ook een heleboel tests en vraag de AI om ze uit te voeren bij elke kleine wijziging die het aanbrengt. gpt-5 is erg, erg goed in zelfcorrectie (en zelfs leren en begrijpen) op basis van mislukte tests.

@0xHP10 schrijf ook goede tests en vraag de AI om ze uit te voeren voor elke kleine wijziging die het aanbrengt. gpt-5 is erg goed in zelfcorrectie (en zelfs leren) op basis van mislukte tests.