Det här är det Bokstavligen det största tillkännagivandet i mitt liv Jag har slagit mig ihop med en, om inte den skarpaste hjärnan jag känner, för att ta itu med en läcka på flera miljarder dollar i AI-branschen: Kostnader för LLM-inferens Det här är faktiskt första och enda gången jag går all-in på ett och samma projekt 1/X

Jag blev partner med en teknisk mördare som jag skulle anförtro mitt liv Hans CV? Brunn... Djup bakgrund inom konkurrenskraftig programmering ICPC-finalist f.d. HFT FAANG alun Det finns inget fint sätt att uttrycka det på Snubben är sprucken

Det första samtalet vi hade kring denna möjlighet varade i mer än 2 timmar Han gick igenom tillvägagångssättet och färdplanen Jag lade på, stirrade in i väggen i en kvart och skickade tre ord: Jag är i 2 dagar senare började jag varva ner alla mina operationer

Problemet är enkelt LLM-inferens är brutalt dyrt och trendar inte nedåt Top labs kommer att spendera mer än 10 miljarder dollar år 2025 Med avskriven hårdvara går den verkliga räkningen över 50 miljarder dollar Kostnaderna kan fortfarande fördubblas inom fem år

Möt Shaira AI Vi minskar slöseriet med inferens vid källan I praktiken innebär det mer genomströmning i samma budget Samtidigt som du matchar eller potentiellt till och med förbättrar uppgiftens noggrannhet

Vi löser ett problem som faller mellan stolarna i hur AI-team är organiserade Att fixa det kräver färdigheter som är ovanliga i dessa team Därför sitter en möjlighet på $10B+ där medan alla jagar nästa glänsande sak Något något sälja spadar i en guldrusch

Vi testade det Det fungerar precis som vi sa Detaljerna förblir privata för konversationer med investerare och kunder Men ja, oroa dig inte... Den är kompatibel med vanliga arkitekturer och hårdvarukonfigurationer

Prissättningen ska vara lika ren som tekniken är invecklad Vår modell är enkel: Licens för 10 % av besparingarna Spara en kund 100 miljoner dollar → vi tjänar 10 miljoner dollar Det finns ingen anledning att överkomplicera det som redan fungerar, eller hur?

Flaggskeppsscenario ? Alla större labb loggar in 1 miljard USD+ per år i EBITDA Även bara 1–2 stora företag plus ett kluster av medelstora kunder ger oss 80–200 miljoner dollar Ett medelstort labb och en handfull mindre kunder? Fortfarande 30–50 miljoner dollar Det absolut värsta scenariot är att ett labb köper teamet och tekniken för att låsa in fördelen för sig själva

Du gissade rätt Vi höjer Men... Jag byggde det här kontot på ärlighet och transparens, och det kommer aldrig att förändras Jag kommer att vara transparent med er, vi kommer inte att ha några problem med att skaffa kapital Vi planerar bara att ta in en gång eftersom vi snabbt kommer att nå lönsamhet

Av de 4 personer jag har pratat med hittills gav 3 muntliga åtaganden utan att ens se en kortlek Den 4:e bokade ett samtal för mer info Och jag har ytterligare en handfull samtal redan inbokade för nästa vecka

Vi befinner oss i den sällsynta positionen att vi måste välja vem som får vårt eget kapital och inte tvärtom Vi vill ha mer än kapital Vi letar efter änglar och riskkapitalister som också kan bidra med skarpt och handfast rådgivningsstöd

I 4 år har jag delat med mig av min fördel här gratis Jag vägrade att tjäna pengar på det här kontot så att jag aldrig skulle ha fel incitament Om mina inlägg någonsin har hjälpt dig har jag en liten tjänst: Antingen retweeta den här tråden eller skicka den till VCs/Angels du litar på Det är allt jag någonsin kommer att be om <3