Transformers v5:n ensimmäinen julkaisuehdokas on julkaistu 🔥, elämäni suurin julkaisu. Viimeisestä majorista (v4) on kulunut viisi vuotta. 20 arkkitehtuurista 400:aan, 20 000 päivittäistä latausta 3 miljoonaan. Julkaisu on valtava, sisältäen tokenisoinnin (ei hitaita tokenisoijia!), mallinnusta ja prosessointia.

Palkkaamme insinöörin, joka on omistautunut yhteen Transformers-tiimin tärkeimmistä projekteista: 📣 testauksen ja CI 📣:n skaalaamiseen. Muuntajien, PyTorchin tai vLLM:n kaltaisten projektien koon ja laajuuden kasvaessa testausasetelma ja CI kasvavat sen rinnalla. Muutama numero perspektiiviin: - Transformersilla on 100-150k+ testiä - Koko sviitti kestää 21 tuntia - Monilla eri alustoilla varustetuissa koneissa Tämän tehokas ja luotettava suorittaminen tekee siitä yhden ekosysteemimme tärkeimmistä projekteista. Se vaatii säännöllistä askelta taaksepäin järjestelmän uudelleensuunnittelussa ja skaalaamisessa. Tässä roolissa työskentelisit suoraan kaikkien tiimin insinöörien kanssa, jotta heidän testinsä mahtuisivat arkkitehtuuriisi. Sinulla olisi lintuperspektiivi ja antaisit Transformersille mahdollisuuden skaalautua tulevina vuosina. Olemme olleet onnekkaita, että olemme @ydshieh johtaneet tätä työtä; Etsimme toista henkilöä tiimiin. Jos olet joku, joka: - sinulla on kokemusta nykyaikaisesta koneoppimisesta - käsittelee sisäkorvaistuttoa ja testausta omana vaikuttavana projektinaan eikä jälkikäteen - uskoo kasvuhakuiseen arkkitehtuuriin yksittäisten atomikokeiden sijaan Ota sitten yhteyttä, haluaisin jutella.

oLLM: kevyt Python-kirjasto LLM-päättelyyn, joka rakentuu muuntajien 🔥 päälle Suorita qwen3-next-80B, GPT-OSS, Llama3 kuluttajalaitteistolla. Mahtavaa työtä Anuarilta!