Sinto realmente que estou a trabalhar com uma equipa de mais de 10 pessoas desde que o GPT-5 chegou. O HVM4 tem apenas 1 mês e já está a superar o HVM3 em todas as dimensões. Agora temos um modo paralelo prototípico (sim, com avaliação preguiçosa!) a funcionar, com o aumento de velocidade esperado.
Lembre-se de que o modo paralelo era: - Quebrado no HVM1 (que era preguiçoso) - Ótimo no HVM2 (mas era rigoroso) - Nunca implementado no HVM3 Ter o modo paralelo correto + modo preguiçoso ainda era um problema em aberto, mas com esta configuração estamos finalmente a chegar lá. Se funcionar, isso significa que podemos escalar o SupGen por avaliação verdadeira em threads, que é muito mais rápido do que a fragmentação que estamos a fazer atualmente. Agora, novamente, é triste que tenhamos 256 macs mini, porque isso está otimizado para fragmentação. São 1024 núcleos de desempenho, divididos entre 256 unidades com 4 núcleos, 16 GB cada. Com verdadeiro paralelismo, poderíamos ter optado por Mac Studios em vez disso. Mas valeria realmente a pena? Com o mesmo $, poderíamos ter conseguido 16 studios, com 512 GB de memória, e 24 núcleos de desempenho cada. Assim, enquanto isso nos permite fazer o melhor uso do verdadeiro paralelismo, isso também significa que temos aproximadamente ~3x menos computação total. Isso valeria a pena, então? Na verdade, não sei, mas vamos descobrir em breve. Talvez eu tenha feito a escolha certa (mesmo que eu tivesse informações incompletas)
Lembre-se de que o modo paralelo era: - Quebrado no HVM1 (que era preguiçoso) - Ótimo no HVM2 (mas era rigoroso) - Nunca implementado no HVM3 (problemas com Haskell) Ter um modo paralelo + preguiçoso correto ainda era um problema em aberto, mas com esta configuração estamos finalmente a chegar lá. Se funcionar, isso significa que podemos escalar o SupGen por meio de avaliação verdadeira em threads, que é muito mais rápida do que a fragmentação que estamos a fazer atualmente. Agora, novamente, é triste que tenhamos 256 macs mini, porque isso está otimizado para fragmentação. São 1024 núcleos de desempenho, divididos entre 256 unidades com 4 núcleos, 16 GB cada. Com verdadeiro paralelismo, poderíamos ter optado por Mac Studios em vez disso. Mas valeria realmente a pena? Com o mesmo $, poderíamos ter conseguido 16 studios, com 512 GB de memória, e 24 núcleos de desempenho cada. Assim, enquanto isso nos permite fazer o melhor uso do verdadeiro paralelismo, isso também significa que temos aproximadamente ~3x menos computação total. Isso valeria a pena, então? Na verdade, não sei, mas vamos descobrir em breve. Talvez eu tenha feito a escolha certa (mesmo que eu tivesse informações incompletas)
@0xHP10 também escreva uma porção enorme de testes e peça ao AI para executá-los em cada pequena alteração que faz. o gpt-5 é muito, muito bom em se autocorrigir (e até aprender e entender) com base em testes falhados.
@0xHP10 também escreva bons testes e peça ao AI para executá-los para cada pequena alteração que faz. o gpt-5 é muito bom em se autocorrigir (e até aprender) com base em testes falhados.
26,59K