De eerste release kandidaat van Transformers v5 is uit 🔥 De grootste release van mijn leven. Het is vijf jaar geleden sinds de laatste grote (v4). Van 20 architecturen naar 400, van 20k dagelijkse downloads naar 3 miljoen. De release is enorm, met tokenisatie (geen trage tokenizers!), modellering en verwerking.

We zijn op zoek naar een engineer die zich toelegt op een van de belangrijkste projecten in het Transformers-team: 📣 het opschalen van de testing en CI 📣. Met projecten zoals transformers, PyTorch of vLLM die in omvang en reikwijdte groeien, groeit de testopstelling en CI mee. Een paar cijfers om het in perspectief te plaatsen: - Transformers heeft 100-150k+ tests - De volledige suite draait in 21 uur - Over een vloot van machines op veel verschillende platforms Dit efficiënt en betrouwbaar draaien maakt het een van de belangrijkste projecten in ons ecosysteem. Het vereist regelmatig een stap terug te nemen om het systeem opnieuw te ontwerpen en op te schalen. In deze rol werk je direct samen met alle engineers in het team om hun tests binnen jouw architectuur te passen. Je hebt het overzicht en stelt Transformers in staat om door de jaren heen op te schalen. We hebben geluk gehad dat @ydshieh deze inspanning leidt; we zijn op zoek naar een tweede persoon om het team te versterken. Als jij iemand bent die: - ervaring heeft met moderne ML - CI & testing beschouwt als een eigen impactvol project in plaats van een bijzaak - gelooft in een groeigerichte architectuur, in plaats van enkele, atomische tests in isolatie Neem dan alsjeblieft contact op, ik zou graag met je praten.

oLLM: een lichte Python-bibliotheek voor LLM-inferentie gebouwd bovenop transformers 🔥 Voer qwen3-next-80B, GPT-OSS, Llama3 uit op consumentenhardware. Geweldig werk van Anuar!