熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
🧵教學:如何自訂一個模型以進行文字轉表情符號,並在設備上部署以便直接在瀏覽器中運行,幾分鐘內免費完成⚡️
步驟:
1. 在Colab中微調模型
2. 將模型量化至300MB
3. 部署並分享一個可以離線運行模型的應用程式
自訂/微調模型
1. 建立數據集(在這種情況下,為文本和表情符號對)
2. 微調。您可以在幾分鐘內在免費的 T4 Colab 中微調 Gemma 3 270M,使用 QLoRA
2.1. 合併 QLoRA 適配器
筆記本:

量化並轉換模型
1️⃣ 根據您的推理庫,您可能需要使用不同的文件類型 GGUF、ONNX 等
2️⃣ 通過量化,您可以縮小權重的精度,例如從 16 位降到 4 位
MediaPipe 的示例

8.02K
熱門
排行
收藏