Právě jsem spustil 🤖 - mapu aktivních projektů decentralizované AI. Rád bych viděl, jak tento ekosystém roste 10x! Soukromí samo o sobě neřídí adopci. Musíme se vyrovnat a překonat centralizované UX velké AI. Datové zdroje a paměť jsou příkopy. Náklady na přechod AI Apps v příštích 2 letech raketově vzrostou. Proč? Lepší zdroje dat → zvýšené využití → bohatší historii → cennější paměť, která je zcela ztracena při změně poskytovatele → vyšších příkopech. Proto musíme jednat rychle. Dnes jsem na konferenci DeAI Summit v @UCBerkeley navrhl "Bartender Stack", který by tento problém vyřešil a zároveň zachoval stejné UX pro uživatele i vývojáře: Abstrakce odvozování: Vývojáři by měli jednoduše volat obecnou funkci odvozování a zařízení uživatele se rozhodne, na který model ji nasměrovat, ať už pomocí vzdálených TEE nebo místního odvozování. V současné době musí vývojáři přinést svůj vlastní model pro místní odvození nebo poskytnout vlastní TEE se zachováním soukromí. což je šílené – což je důvod, proč ve výchozím nastavení používají centralizovaná inferenční API. To, co navrhuji, je ve skutečnosti to, co již děláme s obecnými výpočty: prostě požádáte jádro, aby to spočítalo, kompletně abstrahujete procesor, paměť atd. To umožňuje vývojářům soustředit se na to, co dělá jejich aplikaci AI jedinečnou: rozhraní a prompt+context engineering. Paměť napříč aplikacemi: Zničte "paměťový příkop" automatickým sdílením kontextu mezi aplikacemi a dosáhněte stejného UX jako BigAI. Stejný lokální router, který abstrahuje inferenci, "rozšiřuje" kontext, Nové startupy vytvářející lokální aplikace umělé inteligence těží z veškeré vaší paměti od prvního dne, místo aby byly penalizovány. Datové peněženky: Granulární, lokální ovládání nástrojů a sdílení dat mezi aplikacemi. Nakonfigurujte jednou, ne pro každou aplikaci. Paměť je vlastněna uživateli a sdílena s aplikacemi AI, nikoli vlastněna aplikacemi AI. Bezstavové TEE: Výzvy a kontexty se generují místně a sdílejí se v době odvozování. Jednotky TEE neukládají žádná data, což řeší problém s klíči uživatelského prostředí a předpoklady důvěryhodnosti TEE. Distribuovaná reputace pro agenty: Sítě agentů potřebují vstupní body pro přístup k reputaci bez oprávnění, aby se mohly rozhodnout, kterým agentům důvěřovat. Bez toho se lidé vždy budou automaticky rozhodovat o velkých umělých inteligencích nebo slavných značkách. Pro agenty je důvěra příkopem. Chci, aby AI byla jako barmani! Místní. Nahraditelný. Zapomnětlivý. Naslouchají, když je potřebuji, zmizí, když odejdu, a nikdy neuchovají záznam o historii mých objednávek. Příliš profesionální na to, abych si pamatoval, co jsem řekl po 🍹svém druhém drinku! Kompletní návrh paluby a architektury zde: CC @BerkeleyRDI, 🦊 @MetaMask