Dynamo 0.4 este aici și oferă performanțe de inferență de 4 ori mai mari pe Blackwell cu servire dezagregată. ⚡️ Noile caracteristici includ: • Scalare automată dezagregată bazată pe SLO • Nou instrument de dimensionare dezagregat • Valori de observabilitate specifice LLM în timp real • Redirecționarea solicitărilor de toleranță la erori în zbor • GB200 NVL72 ghiduri pentru dezvoltatori paraleli la scară largă Aceste caracteristici ajută AI Factories să reducă costurile de servicii de inferență, să îndeplinească în mod constant obiectivele de nivel de servicii, să elimine presupunerile pentru configurarea mediilor de servicii dezagregate și să îmbunătățească rezistența sistemului de inferență. 🔗 Construim NVIDIA Dynamo în aer liber și prețuim contribuția 👇 ta Consultați depozitul nostru pe GitHub și alăturați-vă comunității ➡️ NVIDIA Dynamo