⚡ Lettere. Raskere. Åpen. TensorRT LLM 1.0 Enkel distribusjon, #opensource og utvidbar – samtidig som du flytter grensene for slutningsytelse. Med rekordsettende 8X inferensytelsesforbedring gjør TensorRT LLM v1.0 det enkelt å levere kostnadseffektive LLM-er i sanntid på GPU-ene våre. 📥 Nettopp utgitt på GitHub: 🔥 Noe nytt @PyTorch modellforfatterskap for rask utvikling Modulær #Python kjøretid for fleksibilitet Stabil LLM API for sømløs distribusjon 👩 💻 Bli med på livestreamen vår for å lære mer: 📅 25. september kl. 17-18 (PDT)