První kandidát na vydání Transformers v5 je venku 🔥. Největší vydání mého života. Od posledního oboru (v4) uplynulo pět let. Z 20 architektur na 400, 20 tisíc stažení denně na 3 miliony. Vydání je obrovské, s tokenizací (žádné pomalé tokenizéry!), modelováním a zpracováním.

Přijímáme inženýra, který se bude věnovat jednomu z nejdůležitějších projektů v týmu Transformers: 📣 škálování testování a CI 📣. S tím, jak rostou projekty jako transformers, PyTorch nebo vLLM, roste spolu s nimi i testovací nastavení a CI. Několik čísel pro představu: - Transformers má 100-150k + testů - Kompletní sada běží do 21 hodin - Napříč flotilou strojů na mnoha různých platformách Jeho efektivní a spolehlivý provoz z něj dělá jeden z nejdůležitějších projektů v našem ekosystému. Vyžaduje to pravidelně dělat krok zpět a přepracovávat a škálovat systém. V této roli byste spolupracovali přímo se všemi inženýry v týmu, abyste jejich testy přizpůsobili své architektuře. Budete mít pohled z ptačí perspektivy a umožníte Transformers škálovat v nadcházejících letech. Měli jsme štěstí, že jsme toto úsilí vedli @ydshieh; Hledáme dalšího člověka do týmu. Pokud patříte k lidem, kteří: - má zkušenosti s moderním ML - přistupuje k CI a testování jako ke svému vlastnímu projektu s dopadem, nikoli jako k dodatečnému nápadu - věří v architekturu orientovanou na růst, spíše než v jednotlivé atomové testy izolovaně Pak se prosím ozvěte, rád si popovídám.

oLLM: odlehčená knihovna Pythonu pro LLM inferenci postavená na transformátorech 🔥 Spusťte qwen3-next-80B, GPT-OSS, Llama3, na spotřebitelském hardwaru. Úžasná práce od Anuara!