EmbeddingGemma — компактная многоязычная модель встраивания с 308 миллионами параметров, идеально подходящая для приложений RAG на устройствах, и мы сделали интеграцию с LlamaIndex супер простой! 🛠️ Готовая к использованию интеграция с классом встраивания @huggingface от LlamaIndex — просто укажите запрос и подсказки для документов. Модель достигает высоких позиций в Massive Text Embedding Benchmark, оставаясь достаточно компактной для мобильных устройств. Кроме того, ее легко донастраивать — в блоге показано, как донастройка на медицинских данных создала модель, которая превосходит гораздо более крупные альтернативы. Нам нравится видеть такие эффективные модели, которые делают мощные встраивания доступными повсюду, особенно для развертываний на краю, где каждый мегабайт имеет значение. Смотрите полный технический анализ и примеры интеграции: