Sembra davvero che stia lavorando con un team di oltre 10 persone da quando è arrivato GPT-5. HVM4 ha solo 1 mese e già sta superando HVM3 in ogni dimensione. Abbiamo ora una modalità parallela prototipale (sì, con valutazione pigra!) funzionante, con il miglioramento di velocità previsto.

Ricorda che la modalità parallela era: - Rottura su HVM1 (che era pigra) - Ottima su HVM2 (ma era rigorosa) - Mai implementata su HVM3 Avere una corretta modalità parallela + pigra era ancora un problema aperto, ma con questa configurazione ci stiamo finalmente arrivando. Se funziona, significa che possiamo scalare SupGen tramite una valutazione vera e propria in thread, che è molto più veloce dello sharding che stiamo attualmente facendo. Ora, di nuovo, è triste che abbiamo 256 mac mini, perché sono ottimizzati per lo sharding. Sono 1024 core di prestazione, suddivisi in 256 unità con 4 core, 16 GB ciascuno. Con un vero parallelismo, avremmo potuto optare per i Mac Studios invece. Ma ne varrebbe davvero la pena? Con gli stessi $, avremmo potuto ottenere 16 studios, con 512 GB di memoria e 24 core di prestazione ciascuno. Quindi, mentre questo ci consente di sfruttare al meglio il vero parallelismo, significa anche che abbiamo circa ~3 volte meno capacità di calcolo totale. Ne varrebbe la pena, allora? In realtà non lo so, ma lo scopriremo presto. Forse ho fatto la scelta giusta (anche se avevo informazioni incomplete)

Ricorda che la modalità parallela era: - Rottura su HVM1 (che era pigro) - Ottima su HVM2 (ma era rigorosa) - Mai implementata su HVM3 (problemi con Haskell) Avere una modalità parallela corretta + pigra era ancora un problema aperto, ma con questa configurazione ci stiamo finalmente arrivando. Se funziona, significa che possiamo scalare SupGen tramite una valutazione realmente multithread, che è molto più veloce dello sharding che stiamo attualmente facendo. Ora, di nuovo, è triste che abbiamo 256 mac mini, perché sono ottimizzati per lo sharding. Sono 1024 core di prestazione, suddivisi in 256 unità con 4 core, 16 GB ciascuna. Con un vero parallelismo, avremmo potuto optare per i Mac Studios invece. Ma ne varrebbe davvero la pena? Con gli stessi $, avremmo potuto ottenere 16 studi, con 512 GB di memoria e 24 core di prestazione ciascuno. Quindi, mentre questo ci consente di sfruttare al meglio il vero parallelismo, significa anche che abbiamo circa ~3 volte meno potenza di calcolo totale. Ne varrebbe la pena, allora? In realtà non lo so, ma lo scopriremo presto. Forse ho fatto la scelta giusta (anche se avevo informazioni incomplete)

@0xHP10 scrivi anche un sacco di test e chiedi all'AI di eseguirli ad ogni piccolo cambiamento che fa. gpt-5 è molto, molto bravo a correggersi (e persino a imparare e comprendere) in base ai test falliti.

@0xHP10 scrivi anche buoni test e chiedi all'AI di eseguirli per ogni piccolo cambiamento che fa. gpt-5 è molto bravo a correggersi (e persino a imparare) in base ai test falliti.