Giới thiệu về công việc cơ bản của TensorRT-LLM Engineering giúp các nhà phát triển TensorRT-LLM trở nên hiệu quả hơn.

Vượt ra ngoài Thuật toán với NVIDIA: Bộ công cụ NVIDIA NeMo Agent kết nối các công cụ MCP và NVIDIA NIM để xây dựng các hệ thống tác nhân tối ưu.

Giờ Hỗ Trợ Inference - Dynamo

Giới thiệu hỗ trợ tính toán thời gian suy diễn trong TensorRT-LLM

Hướng dẫn cho nhà phát triển 👇 Xem cách xây dựng một #AIagent đơn giản với hiệu suất cao thông qua @OpenAI gpt-oss 20b inference qua các API phản hồi và hoàn thành trò chuyện của OpenAI. Được hỗ trợ bởi #NVIDIANIM. Chỉ đơn giản là tạo một khóa API hoặc tải xuống gpt-oss 20b NIM. 📹 📥 Tải xuống:

🙌 Chúng tôi đã nâng cấp AI Vật lý: lý luận tốt hơn, chuyển giao sim2real chặt chẽ hơn, quy trình đào tạo được tối ưu hóa—sử dụng công nghệ 3D, dữ liệu tổng hợp, Cosmos + Nemotron, và các công cụ sẵn sàng cho nhà phát triển tại #SIGGRAPH2025 🦾⚙️ Hãy chuẩn bị cho việc xây dựng thế giới ảo và thực – tìm các công cụ #NVIDIAResearch của bạn tại đây 🔗

Dynamo 0.4 đã có mặt và mang lại hiệu suất suy diễn gấp 4 lần trên Blackwell với dịch vụ phân tán. ⚡️ Các tính năng mới bao gồm: • Tự động mở rộng phân tán dựa trên SLO • Công cụ định cỡ phân tán mới • Các chỉ số quan sát cụ thể cho LLM theo thời gian thực • Chịu lỗi với việc định tuyến lại yêu cầu đang xử lý • Hướng dẫn phát triển song song quy mô lớn GB200 NVL72 Các tính năng này giúp các Nhà máy AI giảm chi phí phục vụ suy diễn, liên tục đáp ứng các mục tiêu cấp dịch vụ, loại bỏ sự đoán mò trong việc thiết lập môi trường phục vụ phân tán, và nâng cao khả năng phục hồi của hệ thống suy diễn. 🔗 Chúng tôi đang xây dựng NVIDIA Dynamo một cách công khai và đánh giá cao sự đóng góp của bạn 👇 Hãy xem repo của chúng tôi trên GitHub và tham gia cộng đồng NVIDIA Dynamo ➡️

🤳Ảnh tự sướng, camera hành trình, 360° -- ViPE giải quyết một trong những thách thức khó khăn nhất của AI không gian bằng cách phục hồi chuyển động camera từ BẤT KỲ video nào 🎥 Chúng tôi đã giới thiệu ViPE tại #SIGGRAPH25 sử dụng một GPU duy nhất xử lý hàng nghìn khung hình chỉ trong vài phút trong khi vẫn duy trì sự ổn định và nhất quán – cung cấp cải tiến lên đến 50% so với các phương pháp định vị trước đó. Hãy thử nó ở đây 🔗

Chúng tôi vừa phát hành 3 triệu mẫu dữ liệu huấn luyện mô hình ngôn ngữ hình ảnh chất lượng cao cho các trường hợp sử dụng như: 📄 nhận diện ký tự quang học (OCR) 📊 trả lời câu hỏi hình ảnh (VQA) 📝 chú thích 🤗 Tìm hiểu thêm: 📥 Tải xuống:

👀 Nhìn lần đầu về cách dữ liệu tổng hợp, đồ họa 3D và những tiến bộ AI đang thay đổi cuộc chơi và khám phá cách mà AI Vật lý đang định hình những cỗ máy thông minh hơn, có khả năng hơn. 🦾 🤖✨ Các mô hình lý luận #NVIDIACosmos + Nemotron sử dụng dữ liệu tổng hợp để tăng cường học đa phương thức — tăng tốc đào tạo cho xe tự hành, robot và các tác nhân thông minh. 🌍 Nhóm #NVIDIAResearch của chúng tôi đã công bố những đổi mới đột phá — từ việc kết xuất thần kinh và mô phỏng thế giới đến các công cụ mới như Omniverse NuRec với 3D Gaussian Splats cho việc tái tạo thế giới quy mô lớn siêu nhanh tại #SIGGRAPH2025. Khám phá ngay ➡️