Furnizori Kimi K2: Groq servește Kimi K2 la >400 de jetoane de ieșire/s, de 40 de ori mai rapid decât API-ul primar al Moonshot Felicitări unui număr de furnizori pentru lansarea rapidă a API-urilor pentru Kimi K2, inclusiv @GroqInc , @basetenco , @togethercompute, @FireworksAI_HQ, @parasail_io, @novita_labs, @DeepInfra și, bineînțeles, @Kimi_Moonshot. Acest lucru este impresionant având în vedere dimensiunea modelului la 1 trilion de parametri totali. Groq se remarcă prin viteza fulgerătoare. DeepInfra, Novita și Baseten se remarcă prin prețurile lor, fiind singurii furnizori cu prețuri similare sau mai ieftine decât API-ul primar al Moonshot. Vedeți mai jos pentru comparații suplimentare între furnizori. Ne așteptăm la creșteri rapide ale vitezei la unii furnizori, pe măsură ce echipele optimizează pentru modelul K2 - cifrele noastre de mai jos arată viteze medii în ultimele 72 de ore, dar vedem deja că DeepInfra a crescut până la 62 de token/s în măsurătorile de astăzi