Kimi K2 供應商:Groq 的輸出速度超過 400 個標記/秒,比 Moonshot 的第一方 API 快 40 倍。 恭喜多家供應商迅速推出 Kimi K2 的 API,包括 @GroqInc、@basetenco、@togethercompute、@FireworksAI_HQ、@parasail_io、@novita_labs、@DeepInfra,當然還有 @Kimi_Moonshot。考慮到模型的大小達到 1 兆個參數,這實在令人印象深刻。 Groq 以其驚人的速度脫穎而出。DeepInfra、Novita 和 Baseten 以其定價而著稱,成為唯一與 Moonshot 的第一方 API 定價相似或更便宜的供應商。 請參見下方供應商之間的進一步比較。我們預期隨著團隊對 K2 模型的優化,某些供應商的速度將迅速提升 - 我們下面的數據顯示過去 72 小時的中位數速度,但我們已經看到 DeepInfra 在今天的測量中跳升至 62 個標記/秒。
52.09K