La prima release candidate di Transformers v5 è disponibile 🔥 La più grande release della mia vita. Sono passati cinque anni dall'ultima major (v4). Da 20 architetture a 400, da 20k download giornalieri a 3 milioni. La release è enorme, con tokenizzazione (niente tokenizer lenti!), modellazione e elaborazione.

Stiamo cercando un ingegnere dedicato a uno dei progetti più importanti del team Transformers: 📣 scalare il testing e il CI 📣. Con progetti come transformers, PyTorch o vLLM che crescono in dimensioni e portata, il setup di testing e il CI crescono di pari passo. Alcuni numeri per metterlo in prospettiva: - Transformers ha 100-150k+ test - L'intera suite viene eseguita in 21 ore - Su una flotta di macchine su molte piattaforme diverse Eseguire questo in modo efficiente e affidabile lo rende uno dei progetti più importanti del nostro ecosistema. Richiede di fare regolarmente un passo indietro per riprogettare e scalare il sistema. In questo ruolo lavoreresti direttamente con tutti gli ingegneri del team per adattare i loro test alla tua architettura. Avresti una visione d'insieme e abiliteresti Transformers a scalare negli anni a venire. Siamo stati fortunati ad avere @ydshieh a capo di questo sforzo; stiamo cercando una seconda persona da aggiungere al team. Se sei qualcuno che: - ha esperienza con il ML moderno - considera il CI e il testing come un progetto impattante a sé stante piuttosto che come un pensiero secondario - crede in un'architettura orientata alla crescita, piuttosto che in test singoli e atomici in isolamento Allora ti prego di contattarmi, mi piacerebbe chiacchierare.

oLLM: una libreria Python leggera per l'inferenza LLM costruita sopra i transformers 🔥 Esegui qwen3-next-80B, GPT-OSS, Llama3, su hardware consumer. Ottimo lavoro di Anuar!