Jeg har nettopp lansert 🤖 - et kart over aktive desentraliserte AI-prosjekter. Jeg vil gjerne se dette økosystemet vokse 10X! Personvern i seg selv driver ikke adopsjon. Vi må matche og overgå sentralisert Big AIs UX. Datakildekoblinger og minne er vollgravene. Byttekostnadene for AI-apper vil skyte i været i løpet av de neste 2 årene. Hvorfor? Bedre datakilder → økt bruk → rikere historikk → mer verdifullt minne som går helt tapt når du bytter leverandør → høyere vollgraver. Derfor må vi handle raskt. I dag på DeAI Summit på @UCBerkeley presenterte jeg "Bartender Stack" for å løse dette, samtidig som jeg beholder den samme brukeropplevelsen for brukere og utviklere: Inferensabstraksjon: Utviklere bør ganske enkelt kalle en generisk slutningsfunksjon, og brukerens enhet bestemmer hvilken modell den skal rutes til, enten ved hjelp av eksterne TEE-er eller lokal slutning. For øyeblikket må utviklere ta med sin egen modell for lokal slutning eller tilby sine egne personvernbevarende TEE-er. noe som er sprøtt – og det er derfor de som standard bruker sentraliserte slutnings-APIer. Det jeg foreslår er faktisk det vi allerede gjør med generell beregning: du ber bare kjernen om å gjøre regnestykket, fullstendig abstrahere prosessor, minne osv. Dette gjør det mulig for utviklere å fokusere på det som gjør AI-appen deres særegen: grensesnitt og prompt+kontekstteknikk. Minne på tvers av apper: Ødelegg "minnegraven" ved automatisk å dele kontekst på tvers av apper, og oppnå samme brukeropplevelse som BigAI. Den samme lokale ruteren som abstraherer slutninger "utvider" konteksten, nye startups som bygger lokale AI-apper drar nytte av alt minnet ditt fra dag én i stedet for å bli straffet. Datalommebøker: Detaljert, lokal kontroll over verktøy og datadeling på tvers av apper. Konfigurer én gang, ikke per app. Minnet eies av brukerne og deles med AI-apper, ikke eies av AI-appene. Tilstandsløse TEE-er: Spørsmål og kontekster genereres lokalt og deles på slutningstidspunktet. TEE-er lagrer ingen data, og løser TEE-ers UX-nøklerproblem og tillitsforutsetninger. Distribuert omdømme for agenter: Agentnettverk trenger inngangspunkter for å få tilgang til tillatelsesløst omdømme for å bestemme hvilke agenter de skal stole på. Uten dette vil folk alltid bruke store AI-er eller kjente merkevarer som standard. For agenter er tillit vollgraven. Jeg vil at AI-er skal være som bartendere! Lokal. Utskiftbare. Glemsom. De lytter når jeg trenger dem, forsvinner når jeg drar, og fører aldri oversikt over ordrehistorikken min. For profesjonell til å huske hva jeg sa etter 🍹min andre drink! Full dekk og arkitekturdesign her: cc @BerkeleyRDI, 🦊 @MetaMask