Comet jest teraz dostępny dla wszystkich na świecie. W ciągu ostatnich 84 dni miliony osób dołączyły do listy oczekujących na Comet, szukając potężnego osobistego asystenta AI i nowych sposobów korzystania z internetu. Internet jest lepszy na Comet.

Transfer wag jest jednym z największych wąskich gardeł podczas wykonywania rozproszonego RL na modelach o dużej pojemności. Nasz pierwszy blog badawczy Perplexity wyjaśnia, jak inżynierowie ds. wnioskowania Perplexity wykorzystali komunikację RDMA punkt-punkt, aby odblokować ultra-szybkie aktualizacje parametrów dla modeli z trylionem parametrów. Wykorzystując niskopoziomowe prymitywy RDMA, statyczne planowanie i potokowanie, przyspieszamy aktualizacje o rząd wielkości, do zaledwie 1,3 sekundy na aktualizację.

Wprowadzenie do Perplexity Search API Stworzyliśmy indeks wyszukiwania miliardów stron internetowych, aby dostarczać informacje w czasie rzeczywistym, wysokiej jakości z sieci. Teraz deweloperzy mają dostęp do pełnej mocy naszego indeksu, zapewniając najbardziej dokładne wyniki w milisekundach.