Czuję, jakbym pracował z zespołem 10+ osób, odkąd pojawił się GPT-5. HVM4 ma zaledwie miesiąc, a już przewyższa HVM3 w każdym wymiarze. Mamy teraz działający prototypowy tryb równoległy (tak, z leniwą ewaluacją!), z oczekiwanym przyspieszeniem.

Pamiętaj, że tryb równoległy był: - Zepsuty w HVM1 (który był leniwy) - Świetny w HVM2 (ale był surowy) - Nigdy nie wdrożony w HVM3 Posiadanie poprawnego trybu równoległego + leniwego wciąż było otwartym problemem, ale z tym ustawieniem w końcu się do tego zbliżamy. Jeśli to zadziała, oznacza to, że możemy skalować SupGen poprzez prawdziwą ocenę wątkową, co jest znacznie szybsze niż shardowanie, które obecnie robimy. Teraz, znowu, smutne jest to, że mamy 256 maców mini, ponieważ to jest zoptymalizowane pod kątem shardowania. To 1024 rdzenie wydajnościowe, podzielone na 256 jednostek z 4 rdzeniami, 16 GB każdy. Przy prawdziwym równoległym przetwarzaniu moglibyśmy wybrać Mac Studios zamiast tego. Ale czy to byłoby rzeczywiście warte? Za tę samą kwotę moglibyśmy mieć 16 studiów, z 512 GB pamięci i 24 rdzeniami wydajnościowymi każdy. Więc, podczas gdy to pozwala nam najlepiej wykorzystać prawdziwe równoległe przetwarzanie, oznacza to również, że mamy mniej więcej ~3x mniej mocy obliczeniowej łącznie. Czy to byłoby wtedy warte? Właściwie nie wiem, ale wkrótce się przekonamy. Może podjąłem właściwą decyzję (nawet jeśli miałem niepełne informacje)

Pamiętaj, że tryb równoległy był: - Zepsuty w HVM1 (który był leniwy) - Świetny w HVM2 (ale był surowy) - Nigdy nie wdrożony w HVM3 (problemy z Haskellem) Posiadanie poprawnego trybu równoległego + leniwego wciąż było otwartym problemem, ale z tym ustawieniem w końcu się do tego zbliżamy. Jeśli to zadziała, oznacza to, że możemy skalować SupGen poprzez prawdziwą ocenę wątkową, co jest znacznie szybsze niż shardowanie, które obecnie robimy. Teraz, znowu, smutne jest, że mamy 256 maców mini, ponieważ to jest zoptymalizowane pod kątem shardowania. To 1024 rdzenie wydajnościowe, podzielone na 256 jednostek z 4 rdzeniami, 16 GB każdy. Przy prawdziwym równoległym przetwarzaniu moglibyśmy wybrać Mac Studios zamiast tego. Ale czy to byłoby rzeczywiście warte? Za tę samą kwotę moglibyśmy zdobyć 16 studiów, z 512 GB pamięci i 24 rdzeniami wydajnościowymi każdy. Więc, podczas gdy to pozwala nam najlepiej wykorzystać prawdziwe równoległe przetwarzanie, oznacza to również, że mamy mniej więcej ~3x mniej mocy obliczeniowej łącznie. Czy to byłoby wtedy warte? Właściwie nie wiem, ale wkrótce się przekonamy. Może podjąłem właściwą decyzję (nawet jeśli miałem niepełne informacje)

@0xHP10 napisz także mnóstwo testów i poproś AI, aby uruchomiło je przy każdej małej zmianie, którą wprowadza. gpt-5 jest bardzo, bardzo dobry w samokorygowaniu się (a nawet uczeniu się i rozumieniu) na podstawie nieudanych testów.

@0xHP10 również pisz dobre testy i poproś AI, aby je uruchomiło przy każdej małej zmianie, którą wprowadza. gpt-5 jest bardzo dobry w samokorygowaniu się (a nawet uczeniu się) na podstawie nieudanych testów