🧵Tutoriel : Comment personnaliser un modèle pour le texte en emoji et le déployer sur l'appareil pour fonctionner directement dans votre navigateur, en quelques minutes, gratuitement⚡️ Étapes : 1. Affinez le modèle dans Colab 2. Quantifiez le modèle à 300 Mo 3. Déployez et partagez une application où le modèle peut fonctionner hors ligne

Personnalisez/ajustez le modèle 1. Créez un ensemble de données (dans ce cas, des paires de texte et d'emoji) 2. Ajustez. Vous pouvez ajuster Gemma 3 270M en quelques minutes, dans le T4 Colab gratuit, avec QLoRA 2.1. Fusionnez l'adaptateur QLoRA Notebook:

Quantifiez et convertissez le modèle 1️⃣ En fonction de votre bibliothèque d'inférence, vous voudrez utiliser différents types de fichiers GGUF, ONNX, etc. 2️⃣ Avec la quantification, vous pouvez réduire la précision des poids, par exemple de 16 bits à 4 bits. Exemple pour MediaPipe