🧵Tutorial: Come personalizzare un modello per il testo in emoji e distribuirlo sul dispositivo per eseguirlo direttamente nel tuo browser, in pochi minuti, gratuitamente⚡️ Passaggi: 1. Affina il modello in Colab 2. Quantizza il modello a 300MB 3. Distribuisci e condividi un'applicazione in cui il modello può funzionare offline

Personalizza/affina il modello 1. Crea un dataset (in questo caso, coppie di testo ed emoji) 2. Affina. Puoi affinare Gemma 3 270M in pochi minuti, in T4 Colab gratuito, con QLoRA 2.1. Unisci l'adattatore QLoRA Notebook:

Quantizza e converti il modello 1️⃣ A seconda della tua libreria di inferenza, vuoi utilizzare diversi tipi di file GGUF, ONNX, ecc. 2️⃣ Con la quantizzazione, puoi ridurre la precisione dei pesi, ad esempio da 16 bit a 4 bit Esempio per MediaPipe