Bifrost har precis lanserats och de hävdar att de är 40 gånger snabbare än LiteLLM. Det är en LLM-gateway med öppen källkod som hanterar och optimerar anslutningar till flera AI-modeller. Om riktmärkena matchar hypen kan detta bli stort. > LLM-gateway med öppen källkod > MCP-stöd för integrering av verktyg och agenter > Plugin-system för routing, cachning, moderering > Inbyggd styrning och rent användargränssnitt Perfekt för team som skapar AI-appar som behöver hastighet, styrning och integrering av flera modeller. Ska prova det snart, ser värt att utforska.