Gabriel en ik zijn dit bedrijf begonnen met programmeren in een klein kantoor, een jaar lang. We begonnen met het idee dat AI-systemen moeten kunnen leren van ervaringen uit de echte wereld om problemen in de echte wereld op te lossen. Uiteindelijk werd het duidelijk dat dit veel meer een systeem- en dataprobleem was dan een machine learning probleem. De oplossing moest industriële software zijn die vrij beschikbaar en gemakkelijk te adopteren was voor individuele ontwikkelaars, maar die ook kon opschalen om te voldoen aan de behoeften van grote organisaties. Dus hebben we het project open-source gemaakt en onze vroegste gebruikers verteld om ons te stoppen met betalen. Het voelde gek. Tegenwoordig maken we een draai. We hebben een klein maar geweldig technisch team: Aaron (Rust compiler maintainer, Svix, AWS), @anndvision (Columbia postdoc, Oxford PhD), en Alan (CMU PhD, VP bij JPM AI Research) die binnenkort wordt vergezeld door Shuyang (staff SWE op LLM infra bij Google, Palantir) en Cole (Cognition, Windsurf, Stanford). Onze gemeenschap is actief en groeit (binnenkort 10k sterren!). Er is een duidelijke weg naar het bouwen van de agent die elke TensorZero-implementatie optimaliseert op basis van de feedback uit de echte wereld die het verzamelt. Als je me had verteld toen ik aan mijn PhD begon dat op een dag veel bedrijven vrijwillig RL-trajecten zouden gaan opslaan in een datamodel dat ik heb helpen bouwen, zodat we hun beleid konden optimaliseren op basis van de beloningen waar ze om geven, zou ik verbaasd zijn geweest. Binnenkort zal dit niet meer met de hand gedaan worden.
TensorZero
TensorZero19 aug, 04:14
Aankondiging van onze seedronde van $7,3 miljoen! TensorZero maakt een data- en leerflywheel mogelijk voor het optimaliseren van LLM-toepassingen: een feedbackloop die productiemetrieken en menselijke feedback omzet in slimmere, snellere en goedkopere modellen en agenten. Vandaag bieden we een open-source stack voor het bouwen van industriële LLM-toepassingen die een LLM-gateway, observabiliteit, optimalisatie, evaluatie en experimentatie verenigt. Je kunt nemen wat je nodig hebt, geleidelijk adopteren en aanvullen met andere tools. In de loop van de tijd stellen deze componenten je in staat om een principiële feedbackloop voor je LLM-toepassing op te zetten. De data die je verzamelt is gekoppeld aan je KPI's, poorten tussen modelproviders en vormt een concurrentievoordeel voor je bedrijf. Onze visie is om veel van de LLM-engineering te automatiseren. We leggen de basis daarvoor met open-source TensorZero. Bijvoorbeeld, met ons datamodel en end-to-end workflow, zullen we in staat zijn om proactief nieuwe varianten voor te stellen (bijv. een nieuw fijn-afgestemd model), het te backtesten op historische data (bijv. met diverse technieken uit reinforcement learning), een geleidelijke, live A/B-test mogelijk te maken en het proces te herhalen. Met een tool als deze kunnen ingenieurs zich richten op workflows op een hoger niveau — beslissen welke data in en uit deze modellen gaat, hoe succes te meten, welke gedragingen te stimuleren en te ontmoedigen, enzovoort — en de laag-niveau implementatiedetails aan een geautomatiseerd systeem overlaten. Dit is de toekomst die we zien voor LLM-engineering als discipline. Onlangs bereikte TensorZero de #1 trending repository van de week wereldwijd op GitHub (& we staan op het punt om 10k sterren te overschrijden). We hebben het geluk dat we bijdragen hebben ontvangen van tientallen ontwikkelaars wereldwijd, en het is spannend om te zien dat TensorZero al geavanceerde LLM-producten aandrijft bij grensverleggende AI-startups en grote organisaties, waaronder een van de grootste banken van Europa. We zijn enthousiast om te delen dat we $7,3 miljoen hebben opgehaald om de inspanningen van TensorZero te versnellen om infrastructuur van wereldklasse voor LLM-ingenieurs te bouwen (we zijn aan het werven!). De ronde werd geleid door @FirstMarkCap, met deelname van @BessemerVP, @bedrock, @DRWTrading, @coalitionvc en tientallen strategische investeerders.
25,83K