Phiên bản ứng cử viên đầu tiên của Transformers v5 đã ra mắt 🔥 Đây là phiên bản lớn nhất trong cuộc đời tôi. Đã năm năm kể từ phiên bản lớn cuối cùng (v4). Từ 20 kiến trúc lên 400, từ 20k lượt tải hàng ngày lên 3 triệu. Phiên bản này rất lớn, với việc phân tách (không có bộ phân tách chậm!), mô hình hóa & xử lý.

Chúng tôi đang tuyển dụng một kỹ sư dành riêng cho một trong những dự án quan trọng nhất trong đội ngũ Transformers: 📣 mở rộng quy mô kiểm tra và CI 📣. Với các dự án như transformers, PyTorch, hoặc vLLM đang phát triển về quy mô và phạm vi, thiết lập kiểm tra và CI cũng phát triển theo. Một vài con số để đặt vào bối cảnh: - Transformers có 100-150k+ bài kiểm tra - Bộ đầy đủ chạy trong 21 giờ - Trên một đội ngũ máy móc trên nhiều nền tảng khác nhau Chạy điều này một cách hiệu quả và đáng tin cậy khiến nó trở thành một trong những dự án quan trọng nhất trong hệ sinh thái của chúng tôi. Nó yêu cầu thường xuyên lùi lại một bước để thiết kế lại và mở rộng hệ thống. Trong vai trò này, bạn sẽ làm việc trực tiếp với tất cả các kỹ sư trong đội để phù hợp các bài kiểm tra của họ trong kiến trúc của bạn. Bạn sẽ có cái nhìn tổng quát và sẽ giúp Transformers mở rộng quy mô trong những năm tới. Chúng tôi đã may mắn khi có @ydshieh dẫn dắt nỗ lực này; chúng tôi đang tìm kiếm một người thứ hai để gia nhập đội. Nếu bạn là người: - có kinh nghiệm với ML hiện đại - coi CI & kiểm tra như một dự án có ảnh hưởng riêng biệt thay vì chỉ là một suy nghĩ sau - tin vào một kiến trúc hướng tới sự phát triển, thay vì các bài kiểm tra đơn lẻ, nguyên tử trong sự cô lập Thì hãy liên hệ với tôi, tôi rất muốn trò chuyện.

oLLM: một thư viện Python nhẹ cho suy diễn LLM được xây dựng trên nền tảng transformers 🔥 Chạy qwen3-next-80B, GPT-OSS, Llama3, trên phần cứng tiêu dùng. Công việc tuyệt vời của Anuar!