Введение в базовую работу по инженерии TensorRT-LLM, делающую разработчиков TensorRT-LLM более эффективными.

За пределами алгоритма с NVIDIA: NVIDIA NeMo Agent Toolkit соединяет инструменты MCP и NVIDIA NIM для создания оптимизированных агентных систем

Часы работы офиса Inference - Dynamo

Введение поддержки вычислений времени вывода в TensorRT-LLM

Процесс разработки 👇 Смотрите, как создать простой #AIagent с высокой производительностью @OpenAI gpt-oss 20b через API ответов и завершений чата OpenAI. Работает на #NVIDIANIM. Это так же просто, как сгенерировать API-ключ или скачать gpt-oss 20b NIM. 📹 📥 Скачать:

🙌 Мы подняли уровень Физического ИИ: лучшее рассуждение, более точный перенос из симуляции в реальность, оптимизированные тренировочные процессы — с использованием 3D захвата, синтетических данных, Cosmos + Nemotron и инструментов, готовых для разработчиков на #SIGGRAPH2025 🦾⚙️ Приготовьтесь к строительству виртуального и реального мира – найдите свои инструменты #NVIDIAResearch здесь 🔗

Dynamo 0.4 здесь, и он обеспечивает 4-кратную производительность вывода на Blackwell с раздельным обслуживанием. ⚡️ Новые функции включают: • Автоматическое масштабирование на основе SLO с раздельным обслуживанием • Новый инструмент для раздельного определения размеров • Метрики наблюдаемости, специфичные для LLM, в реальном времени • Устойчивость к сбоям с перенаправлением запросов в процессе выполнения • Руководства для разработчиков по параллельной работе с экспертами GB200 NVL72 в крупном масштабе Эти функции помогают AI Factory снижать затраты на обслуживание вывода, последовательно достигать целей уровня обслуживания, устранять неопределенность при настройке раздельных сред обслуживания и повышать устойчивость системы вывода. 🔗 Мы создаем NVIDIA Dynamo в открытом доступе и ценим ваш вклад 👇 Посмотрите наш репозиторий на GitHub и присоединяйтесь к сообществу NVIDIA Dynamo ➡️

🤳Селфи, видеорегистраторы, 360° -- ViPE решает одну из самых сложных задач пространственного ИИ, восстанавливая движение камеры из ЛЮБОГО видео 🎥 Мы представили ViPE на #SIGGRAPH25, используя один GPU для обработки тысяч кадров всего за несколько минут, при этом сохраняя стабильность и согласованность – обеспечивая до 50% улучшение по сравнению с предыдущими методами позирования. Попробуйте это здесь 🔗

Мы только что выпустили 3 миллиона образцов высококачественного набора данных для обучения языковой модели с визуальным восприятием для таких случаев использования, как: 📄 оптическое распознавание символов (OCR) 📊 визуальный вопрос-ответ (VQA) 📝 создание подписей 🤗 Узнайте больше: 📥 Скачать:

👀 Получите первый взгляд на то, как синтетические данные, 3D графика и достижения ИИ меняют правила игры, и узнайте, как Физический ИИ формирует более умные и способные машины. 🦾 🤖✨ Модели рассуждений #NVIDIACosmos + Nemotron используют синтетические данные для ускорения многомодального обучения — ускоряя обучение для автономных транспортных средств, робототехники и интеллектуальных агентов. 🌍 Наша команда #NVIDIAResearch представила прорывные инновации — от нейронного рендеринга и симуляции мира до новых инструментов, таких как Omniverse NuRec с 3D Гауссовыми сплатами для ультрабыстрой, крупномасштабной реконструкции мира на #SIGGRAPH2025. Погружайтесь ➡️