热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
🧵教程:如何自定义一个文本到表情符号的模型,并在设备上部署,以便在浏览器中直接运行,几分钟内,免费⚡️
步骤:
1. 在Colab中微调模型
2. 将模型量化到300MB
3. 部署并分享一个可以离线运行模型的应用程序
自定义/微调模型
1. 构建数据集(在这种情况下,文本和表情符号对)
2. 微调。您可以在几分钟内在免费的 T4 Colab 中微调 Gemma 3 270M,使用 QLoRA
2.1. 合并 QLoRA 适配器
笔记本:

量化并转换模型
1️⃣ 根据您的推理库,您需要使用不同的文件类型 GGUF、ONNX 等
2️⃣ 通过量化,您可以缩小权重精度,例如从 16 位降到 4 位
MediaPipe 示例

8.02K
热门
排行
收藏