Gabriel și cu mine am început această programare de afaceri într-un birou mic timp de un an la rând. Am pornit de la ideea că sistemele AI trebuie să poată învăța din experiența din lumea reală pentru a rezolva probleme din lumea reală. În cele din urmă, a devenit clar că aceasta era mai mult o problemă de sisteme și date decât o problemă de învățare automată. Soluția trebuia să fie un software de calitate industrială, disponibil gratuit și ușor de adoptat pentru dezvoltatorii individuali, dar care să poată fi scalat pentru a se potrivi nevoilor organizațiilor mari. Așa că am deschis proiectul și le-am spus primilor noștri utilizatori să nu ne mai plătească. S-a simțit nebunesc. În zilele noastre, ne apropiem de un colț. Avem o echipă tehnică mică, dar incredibilă: Aaron (întreținător compilator Rust, Svix, AWS), @anndvision (postdoc Columbia, Oxford PhD) și Alan (CMU PhD, VP la JPM AI Research) li se vor alătura în curând Shuyang (staff SWE on LLM infra la Google, Palantir) și Cole (Cognition, Windsurf, Stanford). Comunitatea noastră este activă și în creștere (în curând la 10 stele!). Există o cale clară către construirea agentului care optimizează fiecare implementare TensorZero în raport cu feedback-ul din lumea reală pe care îl colectează. Dacă mi-ai fi spus când mi-am început doctoratul că într-o zi multe companii vor începe în mod voluntar să stocheze traiectoriile RL într-un model de date pe care l-am ajutat să construiesc, astfel încât să le putem optimiza politicile în raport cu recompensele de care le pasă, aș fi fost uimit. În curând, acest lucru nu se va face manual.
TensorZero
TensorZero19 aug., 04:14
Anunțăm runda noastră de 7,3 milioane de dolari! TensorZero permite un volant de date și învățare pentru optimizarea aplicațiilor LLM: o buclă de feedback care transformă valorile de producție și feedback-ul uman în modele și agenți mai inteligente, mai rapide și mai ieftine. Astăzi, oferim o stivă open-source pentru construirea de aplicații LLM de calitate industrială care unifică un gateway LLM, observabilitate, optimizare, evaluare și experimentare. Puteți lua ceea ce aveți nevoie, puteți adopta treptat și puteți completa cu alte instrumente. În timp, aceste componente vă permit să configurați o buclă de feedback principială pentru aplicația dvs. Datele pe care le colectați sunt legate de KPI-urile dvs., de porturile dintre furnizorii de modele și se compun într-un avantaj competitiv pentru afacerea dvs. Viziunea noastră este de a automatiza o mare parte din ingineria LLM. Punem bazele pentru asta cu TensorZero open-source. De exemplu, cu modelul nostru de date și fluxul de lucru end-to-end, vom putea sugera în mod proactiv noi variante (de exemplu, un nou model reglat), îl vom testa pe date istorice (de exemplu, folosind diverse tehnici din învățarea prin întărire), vom permite un test A/B treptat, live și vom repeta procesul. Cu un astfel de instrument, inginerii se pot concentra pe fluxuri de lucru de nivel superior – decidând ce date intră și ies din aceste modele, cum să măsoare succesul, ce comportamente să stimuleze și să descurajeze și așa mai departe – și să lase detaliile de implementare de nivel scăzut unui sistem automatizat. Acesta este viitorul pe care îl vedem pentru ingineria LLM ca disciplină. Recent, TensorZero a ajuns #1 în topul de tendințe al săptămânii la nivel global pe GitHub (și suntem pe cale să depășim 10 stele). Suntem norocoși să primim contribuții de la zeci de dezvoltatori din întreaga lume și este interesant să vedem că TensorZero alimentează deja produse LLM de ultimă generație la startup-uri AI de frontieră și organizații mari, inclusiv una dintre cele mai mari bănci din Europa. Suntem încântați să vă anunțăm că am strâns 7,3 milioane de dolari pentru a accelera eforturile TensorZero de a construi cea mai bună infrastructură open-source pentru inginerii LLM (angajăm!). Runda a fost condusă de @FirstMarkCap, cu participarea @BessemerVP, @bedrock, @DRWTrading, @coalitionvc și zeci de îngeri strategici.
25,84K