⚡ Snadnější. Rychleji. Otevřený. TensorRT LLM 1.0 Jednoduché nasazení, #opensource a rozšiřitelné – to vše při posouvání hranic výkonu inference. Díky rekordnímu 8násobnému zlepšení výkonu inference TensorRT LLM v1.0 usnadňuje poskytování nákladově efektivních LLM v reálném čase na našich GPU. 📥 Právě vydáno na GitHubu: 🔥 Co je nového @PyTorch modelové autorství pro rychlý vývoj Modulární #Python runtime pro flexibilitu Stabilní LLM API pro bezproblémové nasazení 👩 💻 Připojte se k našemu živému přenosu a dozvíte se více: 📅 25. září, 17-18 hodin (PDT)