🧵Tutorial: Cómo personalizar un modelo para texto a emoji e implementarlo en el dispositivo para que se ejecute directamente en el explorador, en cuestión de minutos, de forma gratuita⚡️ Pasos: 1. Afinar el modelo en Colab 2. Cuantiza el modelo hasta 300 MB 3. Implementar y compartir una aplicación en la que el modelo pueda ejecutarse sin conexión

Personalizar/ajustar el modelo 1. Construir un conjunto de datos (en este caso, pares de texto y emoji) 2. Afinar. Puede ajustar Gemma 3 270M en minutos, en T4 Colab gratuito, con QLoRA 2.1. Fusionar el adaptador QLoRA Cuaderno:

Cuantizar y convertir el modelo 1️⃣ Dependiendo de su biblioteca de inferencia, desea utilizar diferentes tipos de archivo GGUF, ONNX, etc. 2️⃣ Con la cuantificación, puede reducir la precisión de los pesos, por ejemplo, de 16 bits a 4 bits Ejemplo de MediaPipe