⚡ أسهل. أسرع. مفتوح. TensorRT LLM 1.0 نشر بسيط #opensource وقابل للتوسعة - كل ذلك مع دفع حدود أداء الاستدلال. من خلال تحسين أداء الاستدلال 8X الذي سجل الرقم القياسي ، يجعل TensorRT LLM v1.0 من السهل تقديم LLMs في الوقت الفعلي وفعالة من حيث التكلفة على وحدات معالجة الرسومات الخاصة بنا. 📥 تم إصداره للتو على GitHub: 🔥 ما الجديد تأليف نموذج @PyTorch من أجل التطور السريع وقت تشغيل #Python معياري للمرونة واجهة برمجة تطبيقات LLM مستقرة للنشر السلس 👩 💻 انضم إلى البث المباشر لمعرفة المزيد: 📅 25 سبتمبر ، 5-6 مساء (بتوقيت المحيط الهادئ)