Właśnie uruchomiłem 🤖 - mapę aktywnych projektów Decentralized AI. Chciałbym, aby ten ekosystem urósł 10 razy! Prywatność sama w sobie nie napędza adopcji. Musimy dorównać i przewyższyć UX scentralizowanego Big AI. Łączniki źródeł danych i pamięć to fosy. Koszty przełączania aplikacji AI wzrosną w ciągu najbliższych 2 lat. Dlaczego? Lepsze źródła danych → zwiększone wykorzystanie → bogatsza historia → bardziej wartościowa pamięć, która całkowicie ginie przy zmianie dostawców → wyższe fosy. Dlatego musimy działać szybko. Dziś na DeAI Summit w @UCBerkeley przedstawiłem "Bartender Stack", aby to rozwiązać, zachowując ten sam UX dla użytkowników i deweloperów: Abstrakcja wnioskowania: Deweloperzy powinni po prostu wywoływać ogólną funkcję wnioskowania, a urządzenie użytkownika decyduje, do którego modelu ją skierować, czy to korzystając z zdalnych TEEs, czy lokalnego wnioskowania. Obecnie deweloperzy muszą przynieść własny model do lokalnego wnioskowania lub zapewnić własne TEEs chroniące prywatność, co jest szalone - dlatego domyślnie korzystają z scentralizowanych API wnioskowania. To, co proponuję, to właściwie to, co już robimy w ogólnym obliczeniu: po prostu prosisz jądro o wykonanie obliczeń, całkowicie abstrahując procesor, pamięć itd. To umożliwia deweloperom skupienie się na tym, co czyni ich aplikację AI wyjątkową: interfejs i inżynieria promptów + kontekstu. Pamięć między aplikacjami: Zniszcz "fosę pamięci" poprzez automatyczne dzielenie się kontekstem między aplikacjami, osiągając ten sam UX co BigAI. Ten sam lokalny router, który abstrahuje wnioskowanie, "rozszerza" kontekst. Nowe startupy budujące lokalne aplikacje AI korzystają z całej twojej pamięci od pierwszego dnia, zamiast być karane. Portfele danych: Granularna, lokalna kontrola narzędzi i udostępniania danych między aplikacjami. Konfiguruj raz, a nie dla każdej aplikacji. Pamięć należy do użytkowników i jest dzielona z aplikacjami AI, a nie należy do aplikacji AI. Bezstanowe TEEs: Prompty i konteksty są generowane lokalnie i udostępniane w czasie wnioskowania. TEEs nie przechowują danych, rozwiązując problem UX kluczy TEEs i założeń zaufania. Rozproszona reputacja dla agentów: Sieci agentów potrzebują punktów dostępu do reputacji bez zezwolenia, aby decydować, którym agentom zaufać. Bez tego ludzie zawsze będą domyślnie korzystać z Big AIs lub znanych marek. Dla agentów zaufanie to fosa. Chcę, aby AI były jak barmani! Lokalne. Wymienne. Zapominalne. Słuchają, gdy ich potrzebuję, znikają, gdy odchodzę, i nigdy nie prowadzą rejestru mojej historii zamówień. Zbyt profesjonalne, aby pamiętać, co powiedziałem po 🍹moim drugim drinku! Pełna prezentacja i projekt architektury tutaj: cc @BerkeleyRDI, 🦊@MetaMask