Rasanya seperti saya bekerja dengan tim yang terdiri dari 10+ orang karena GPT-5 ada di sini. HVM4 baru berusia 1 bulan dan sudah menggantikan HVM3 di setiap dimensi. Kami sekarang memiliki mode paralel prototipe (ya, dengan evaluasi malas!) yang bekerja, dengan kecepatan yang diharapkan.

Ingat bahwa mode paralel adalah: - Rusak di HVM1 (yang malas) - Bagus di HVM2 (tapi ketat) - Tidak pernah diterapkan di HVM3 Memiliki mode paralel + malas yang benar masih merupakan masalah terbuka, tetapi dengan pengaturan ini kita akhirnya sampai di sana. Jika berhasil, itu berarti kita dapat menskalakan SupGen dengan evaluasi ulir sejati, yang jauh lebih cepat daripada sharding yang sedang kita lakukan. Sekarang, sekali lagi, sangat menyedihkan bahwa kami memiliki 256 macs mini, karena itu dioptimalkan untuk sharding. Itu 1024 core performa, jumlah split 256 unit dengan 4 core, masing-masing 16 GB. Dengan paralelisme sejati, kita bisa memilih Mac Studios sebagai gantinya. Tapi apakah itu benar-benar berharga? Dengan $ yang sama, kami bisa mendapatkan 16 studio, dengan memori 512 GB, dan masing-masing 24 inti kinerja. Jadi, sementara itu memungkinkan kita untuk memanfaatkan paralelisme sejati dengan sebaik-baiknya, itu juga berarti kita memiliki total komputasi sekitar ~3x lebih sedikit. Apakah itu sepadan? Saya sebenarnya tidak tahu, tetapi kita akan segera mengetahuinya. Mungkin saya membuat pilihan yang tepat (meskipun saya memiliki informasi yang tidak lengkap)

Ingat bahwa mode paralel adalah: - Rusak di HVM1 (yang malas) - Bagus di HVM2 (tapi ketat) - Tidak pernah diterapkan pada HVM3 (masalah Haskell) Memiliki mode paralel + malas yang benar masih merupakan masalah terbuka, tetapi dengan pengaturan ini kita akhirnya sampai di sana. Jika berhasil, itu berarti kita dapat menskalakan SupGen dengan evaluasi ulir sejati, yang jauh lebih cepat daripada sharding yang sedang kita lakukan. Sekarang, sekali lagi, sangat menyedihkan bahwa kami memiliki 256 macs mini, karena itu dioptimalkan untuk sharding. Itu 1024 core performa, jumlah split 256 unit dengan 4 core, masing-masing 16 GB. Dengan paralelisme sejati, kita bisa memilih Mac Studios sebagai gantinya. Tapi apakah itu benar-benar berharga? Dengan $ yang sama, kami bisa mendapatkan 16 studio, dengan memori 512 GB, dan masing-masing 24 inti kinerja. Jadi, sementara itu memungkinkan kita untuk memanfaatkan paralelisme sejati dengan sebaik-baiknya, itu juga berarti kita memiliki total komputasi sekitar ~3x lebih sedikit. Apakah itu sepadan? Saya sebenarnya tidak tahu, tetapi kita akan segera mengetahuinya. Mungkin saya membuat pilihan yang tepat (meskipun saya memiliki informasi yang tidak lengkap)

@0xHP10 juga menulis banyak tes dan meminta AI untuk menjalankannya pada setiap perubahan kecil yang dilakukannya. GPT-5 sangat, sangat baik dalam mengoreksi diri (dan bahkan belajar dan memahami) berdasarkan tes yang gagal

@0xHP10 juga menulis tes yang bagus dan meminta AI untuk menjalankannya untuk setiap perubahan kecil yang dilakukannya. GPT-5 sangat pandai mengoreksi diri (dan bahkan belajar) berdasarkan tes yang gagal