⚡ 更簡單。更快速。開放。TensorRT LLM 1.0 簡單的部署,#opensource,且可擴展——同時推動推理性能的邊界。 憑藉創紀錄的 8 倍推理性能提升,TensorRT LLM v1.0 使得在我們的 GPU 上提供實時、成本效益高的 LLM 變得簡單。 📥 剛在 GitHub 上發布: 🔥 新增內容 @PyTorch 模型創作以加速開發 模組化 #Python 執行環境以獲得靈活性 穩定的 LLM API 以實現無縫部署 👩‍💻 加入我們的直播以了解更多: 📅 9 月 25 日,下午 5-6 點 (PDT)