Parece que estou trabalhando com uma equipe de 10+ pessoas desde que o GPT-5 está aqui. O HVM4 tem apenas 1 mês e já está substituindo o HVM3 em todas as dimensões. Agora temos um modo paralelo prototípico (sim, com avaliação preguiçosa!) funcionando, com a aceleração esperada.
Lembre-se de que o modo paralelo era: - Quebrado no HVM1 (que era preguiçoso) - Ótimo em HVM2 (mas era rigoroso) - Nunca implementado no HVM3 Ter o modo paralelo + preguiçoso correto ainda era um problema em aberto, mas com essa configuração finalmente estamos chegando lá. Se funcionar, isso significa que podemos dimensionar o SupGen por uma avaliação encadeada verdadeira, que é muito mais rápida do que o sharding que estamos fazendo atualmente. Agora, novamente, é triste que tenhamos 256 macs mini, porque isso é otimizado para sharding. São 1024 núcleos de desempenho, 256 unidades divididas com 4 núcleos, 16 GB cada. Com o verdadeiro paralelismo, poderíamos ter optado pelo Mac Studios. Mas realmente valeria a pena? Com o mesmo $, poderíamos ter 16 estúdios, com 512 GB de memória e 24 núcleos de desempenho cada. Portanto, embora isso nos permita fazer o melhor uso do verdadeiro paralelismo, isso também significa que temos aproximadamente ~ 3x menos total de computação. Isso valeria a pena, então? Na verdade, não sei, mas descobriremos em breve. Talvez eu tenha feito a escolha certa (mesmo que eu tivesse informações incompletas)
Lembre-se de que o modo paralelo era: - Quebrado no HVM1 (que era preguiçoso) - Ótimo em HVM2 (mas era rigoroso) - Nunca implementado no HVM3 (problemas de Haskell) Ter o modo paralelo + preguiçoso correto ainda era um problema em aberto, mas com essa configuração finalmente estamos chegando lá. Se funcionar, isso significa que podemos dimensionar o SupGen por uma avaliação encadeada verdadeira, que é muito mais rápida do que o sharding que estamos fazendo atualmente. Agora, novamente, é triste que tenhamos 256 macs mini, porque isso é otimizado para sharding. São 1024 núcleos de desempenho, 256 unidades divididas com 4 núcleos, 16 GB cada. Com o verdadeiro paralelismo, poderíamos ter optado pelo Mac Studios. Mas realmente valeria a pena? Com o mesmo $, poderíamos ter 16 estúdios, com 512 GB de memória e 24 núcleos de desempenho cada. Portanto, embora isso nos permita fazer o melhor uso do verdadeiro paralelismo, isso também significa que temos aproximadamente ~ 3x menos total de computação. Isso valeria a pena, então? Na verdade, não sei, mas descobriremos em breve. Talvez eu tenha feito a escolha certa (mesmo que eu tivesse informações incompletas)
@0xHP10 também escreve uma porrada de testes e pede à IA para executá-los em cada pequena mudança que fizer. GPT-5 é muito, muito bom em autocorreção (e até mesmo em aprender e entender) com base em testes reprovados
@0xHP10 também escrevem bons testes e pedem à IA para executá-los para cada pequena alteração que fizer. GPT-5 é muito bom em autocorreção (e até mesmo aprendizado) com base em testes reprovados
26,99K