Die erste Release-Kandidatin von Transformers v5 ist da 🔥 Die größte Veröffentlichung meines Lebens. Es sind fünf Jahre seit der letzten großen Version (v4) vergangen. Von 20 Architekturen zu 400, von 20.000 täglichen Downloads zu 3 Millionen. Die Veröffentlichung ist riesig, mit Tokenisierung (keine langsamen Tokenizer!), Modellierung und Verarbeitung.

Wir stellen einen Ingenieur ein, der sich einem der wichtigsten Projekte im Transformers-Team widmet: 📣 Skalierung der Tests und CI 📣. Mit Projekten wie Transformers, PyTorch oder vLLM, die in Größe und Umfang wachsen, wächst auch das Test-Setup und die CI. Einige Zahlen, um das in Perspektive zu setzen: - Transformers hat 100-150k+ Tests - Die gesamte Suite läuft in 21 Stunden - Über eine Flotte von Maschinen auf vielen verschiedenen Plattformen Dies effizient und zuverlässig zu betreiben, macht es zu einem der wichtigsten Projekte in unserem Ökosystem. Es erfordert regelmäßig einen Schritt zurückzutreten, um das System neu zu gestalten und zu skalieren. In dieser Rolle würdest du direkt mit allen Ingenieuren im Team zusammenarbeiten, um ihre Tests in deine Architektur zu integrieren. Du hättest den Überblick und würdest Transformers ermöglichen, über die kommenden Jahre zu skalieren. Wir hatten das Glück, dass @ydshieh diese Anstrengung leitet; wir suchen nach einer zweiten Person, die dem Team beitritt. Wenn du jemand bist, der: - Erfahrung mit modernem ML hat - CI & Testing als eigenes, wirkungsvolles Projekt betrachtet und nicht als Nachgedanken - an eine wachstumsorientierte Architektur glaubt, anstatt an einzelne, atomare Tests in Isolation Dann melde dich bitte, ich würde mich freuen, mit dir zu sprechen.

oLLM: eine leichte Python-Bibliothek für LLM-Inferenz, die auf Transformers aufbaut 🔥 Führen Sie qwen3-next-80B, GPT-OSS, Llama3 auf Consumer-Hardware aus. Tolle Arbeit von Anuar!