⚡ Eenvoudiger. Sneller. Open. TensorRT LLM 1.0 Eenvoudige implementatie, #opensource, en uitbreidbaar – terwijl we de grenzen van inferentieprestaties verleggen. Met een recordbrekende verbetering van 8X in inferentieprestaties, maakt TensorRT LLM v1.0 het eenvoudig om real-time, kosteneffectieve LLM's op onze GPU's te leveren. 📥 Net uitgebracht op GitHub: 🔥 Wat is nieuw @PyTorch model auteurschap voor snelle ontwikkeling Modulaire #Python runtime voor flexibiliteit Stabiele LLM API voor naadloze implementatie 👩‍💻 Doe mee met onze livestream om meer te leren: 📅 25 sept., 17-18 uur (PDT)