🧵教學:如何自訂一個模型以進行文字轉表情符號,並在設備上部署以便直接在瀏覽器中運行,幾分鐘內免費完成⚡️ 步驟: 1. 在Colab中微調模型 2. 將模型量化至300MB 3. 部署並分享一個可以離線運行模型的應用程式
自訂/微調模型 1. 建立數據集(在這種情況下,為文本和表情符號對) 2. 微調。您可以在幾分鐘內在免費的 T4 Colab 中微調 Gemma 3 270M,使用 QLoRA 2.1. 合併 QLoRA 適配器 筆記本:
量化並轉換模型 1️⃣ 根據您的推理庫,您可能需要使用不同的文件類型 GGUF、ONNX 等 2️⃣ 通過量化,您可以縮小權重的精度,例如從 16 位降到 4 位 MediaPipe 的示例
8.02K