Poskytovatelé Kimi K2: Groq obsluhuje Kimi K2 rychlostí >400 výstupních tokenů/s, 40x rychleji než API první strany Moonshot Gratulujeme řadě poskytovatelů k rychlému spuštění API pro Kimi K2, včetně @GroqInc, @basetenco, @togethercompute, @FireworksAI_HQ, @parasail_io, @novita_labs, @DeepInfra a samozřejmě @Kimi_Moonshot. To je působivé vzhledem k velikosti modelu při celkovém počtu 1 bilionu parametrů. Groq vyniká bleskovou rychlostí. DeepInfra, Novita a Baseten vynikají svými cenami, protože jsou jedinými poskytovateli, kteří mají podobné ceny nebo levnější než API první strany Moonshot. Další srovnání mezi poskytovateli naleznete níže. U některých poskytovatelů očekáváme rychlý nárůst rychlosti, protože týmy optimalizují model K2 – naše níže uvedená čísla ukazují střední rychlosti za posledních 72 hodin, ale již nyní vidíme, že DeepInfra v dnešních měřeních vyskočil až na 62 tokenů/s
52,08K