EmbeddingGemma, en kompakt flerspråklig innebyggingsmodell med 308 millioner parametere, perfekt for RAG-applikasjoner på enheten – og vi har gjort det superenkelt å integrere med LlamaIndex! 🛠️ Klar til bruk integrasjon med LlamaIndex sin @huggingface Embedding-klasse – bare spesifiser spørrings- og dokumentmeldingene Modellen oppnår topprangeringer på Massive Text Embedding Benchmark samtidig som den er liten nok for mobile enheter. I tillegg er det lett å finjustere - bloggen viser hvordan finjustering av medisinske data skapte en modell som overgår mye større alternativer. Vi elsker å se effektive modeller som dette som gjør kraftige innebygginger tilgjengelige overalt, spesielt for kantdistribusjoner der hver MB teller. Se de fullstendige eksemplene på teknisk dypdykk og integrering: