🧵Tutorial: Cara menyesuaikan model untuk teks-ke-emoji dan menyebarkan di perangkat untuk berjalan langsung di browser Anda, dalam hitungan menit, gratis⚡️ Langkah: 1. Menyempurnakan model di Colab 2. Kuantisasi model hingga 300MB 3. Sebarkan dan bagikan aplikasi tempat model dapat berjalan secara offline

Sesuaikan/penyempurnakan model 1. Bangun himpunan data (dalam hal ini, pasangan teks dan emoji) 2. Menyempurnakan. Anda dapat menyempurnakan Gemma 3 270M dalam hitungan menit, dalam T4 Colab gratis, dengan QLoRA 2.1. Gabungkan adaptor QLoRA Kitab:

Kuantisasi dan konversi model 1️⃣ Tergantung pada perpustakaan inferensi Anda, Anda ingin menggunakan jenis file yang berbeda GGUF, ONNX, dll 2️⃣ Dengan kuantisasi, Anda dapat mengecilkan presisi bobot, misalnya 16-bit menjadi 4-bit Contoh untuk MediaPipe