Einführung der TensorRT-LLM Engineering-Baseline-Arbeit, die TensorRT-LLM-Entwickler effizienter macht.

Über den Algorithmus hinaus mit NVIDIA: Das NVIDIA NeMo Agent Toolkit verbindet MCP-Tools und NVIDIA NIM zum Aufbau optimierter agentischer Systeme

Inference Sprechstunden - Dynamo

Einführung der Unterstützung für Inferenzzeitberechnungen in TensorRT-LLM

Entwickler-Durchlauf 👇 Sehen Sie, wie man einen einfachen #AIagent mit der leistungsstarken @OpenAI gpt-oss 20b Inferenz über die OpenAI-Antwort- und Chat-Vervollständigungs-APIs erstellt. Angetrieben von #NVIDIANIM. Es ist so einfach wie das Generieren eines API-Schlüssels oder das Herunterladen des gpt-oss 20b NIM. 📹 📥 Herunterladen:

🙌 Wir haben die Physische KI aufgerüstet: besseres Denken, engere Sim2Real-Übertragung, optimierte Trainingspipelines – unter Verwendung von 3D-Erfassung, synthetischen Daten, Cosmos + Nemotron und entwicklerfreundlichen Tools auf der #SIGGRAPH2025 🦾⚙️ Mach dich bereit für den Aufbau von virtuellen und realen Welten – finde hier deine #NVIDIAResearch-Tools 🔗

Dynamo 0.4 ist da und bietet eine 4-fache Inferenzleistung auf Blackwell mit disaggregiertem Serving. ⚡️ Neue Funktionen umfassen: • SLO-basiertes disaggregiertes Autoscaling • Neues disaggregiertes Größenanpassungstool • Echtzeit-LLM-spezifische Beobachtungsmetriken • Fehlertoleranz bei der Umleitung von Anfragen in Bearbeitung • GB200 NVL72 große Expertenleitfäden für parallele Entwickler Diese Funktionen helfen KI-Fabriken, die Kosten für das Inferenz-Serving zu senken, die Service-Level-Ziele konsequent zu erreichen, die Unsicherheit bei der Einrichtung von disaggregierten Serving-Umgebungen zu beseitigen und die Resilienz des Inferenzsystems zu verbessern. 🔗 Wir entwickeln NVIDIA Dynamo offen und schätzen Ihren Beitrag 👇 Schauen Sie sich unser Repository auf GitHub an und treten Sie der NVIDIA Dynamo-Community bei ➡️

🤳Selfies, Dashcams, 360° -- ViPE löst eine der schwierigsten Herausforderungen der räumlichen KI, indem es die Kamerabewegung aus JEDEM Video wiederherstellt 🎥 Wir haben ViPE auf der #SIGGRAPH25 vorgestellt, wobei ein einzelner GPU Tausende von Frames in nur wenigen Minuten verarbeitet hat, während Stabilität und Konsistenz gewahrt blieben – mit einer Verbesserung von bis zu 50 % im Vergleich zu früheren Pose-Methoden. Probier es hier aus 🔗

Wir haben gerade 3 Millionen Proben eines hochwertigen Trainingsdatensatzes für Sprach- und Bildmodelle veröffentlicht, die für Anwendungsfälle wie: 📄 optische Zeichenerkennung (OCR) 📊 visuelle Fragenbeantwortung (VQA) 📝 Beschriftung 🤗 Erfahren Sie mehr: 📥 Herunterladen:

👀 Erhalten Sie einen ersten Einblick, wie synthetische Daten, 3D-Grafiken und KI-Fortschritte das Spiel verändern und erkunden Sie, wie Physical AI intelligentere, leistungsfähigere Maschinen formt. 🦾 🤖✨ #NVIDIACosmos + Nemotron-Reasoning-Modelle nutzen synthetische Daten, um multimodales Lernen zu beschleunigen — die Ausbildung für autonome Fahrzeuge, Robotik und intelligente Agenten zu beschleunigen. 🌍 Unser #NVIDIAResearch-Team hat bahnbrechende Innovationen vorgestellt — von neuronaler Darstellung und Weltsimulation bis hin zu neuen Werkzeugen wie Omniverse NuRec mit 3D-Gaussian Splats für ultra-schnelle, großflächige Weltrekonstruktion auf der #SIGGRAPH2025. Tauchen Sie ein ➡️