⚡ Łatwiej. Szybciej. Otwarty. TensorRT LLM 1.0 Proste wdrożenie, #opensource i rozszerzalność – wszystko to przy jednoczesnym przesuwaniu granic wydajności wnioskowania. Dzięki rekordowemu 8-krotnemu zwiększeniu wydajności wnioskowania, TensorRT LLM v1.0 ułatwia dostarczanie LLM-ów w czasie rzeczywistym, efektywnych kosztowo na naszych GPU. 📥 Właśnie wydane na GitHubie: 🔥 Co nowego @PyTorch autorstwo modelu dla szybkiego rozwoju Modularne środowisko uruchomieniowe #Python dla elastyczności Stabilne API LLM dla bezproblemowego wdrożenia 👩‍💻 Dołącz do naszej transmisji na żywo, aby dowiedzieć się więcej: 📅 25 września, 17:00-18:00 (PDT)