Ho appena lanciato 🤖 - una mappa dei progetti attivi di AI Decentralizzata. Vorrei vedere questo ecosistema crescere di 10 volte! La privacy da sola non guida l'adozione. Dobbiamo eguagliare e superare l'UX dei Big AI centralizzati. I connettori delle fonti di dati e la memoria sono le fortificazioni. I costi di switching delle app AI saliranno alle stelle nei prossimi 2 anni. Perché? Migliori fonti di dati → utilizzo aumentato → storia più ricca → memoria più preziosa che viene completamente persa quando si cambiano i fornitori → fortificazioni più alte. Ecco perché dobbiamo agire in fretta. Oggi al DeAI Summit presso @UCBerkeley ho presentato il "Bartender Stack" per risolvere questo, mantenendo la stessa UX per utenti e sviluppatori: Astrazione dell'inferenza: Gli sviluppatori dovrebbero semplicemente chiamare una funzione di inferenza generica, e il dispositivo dell'utente decide a quale modello indirizzarla, sia utilizzando TEEs remoti che inferenza locale. Attualmente, gli sviluppatori devono portare il proprio modello per l'inferenza locale o fornire i propri TEEs che preservano la privacy, il che è folle—ed è per questo che ricorrono alle API di inferenza centralizzate. Quello che propongo è in realtà ciò che già facciamo con il calcolo generale: chiedi semplicemente al kernel di fare i calcoli, astrando completamente processore, memoria, ecc. Questo consente agli sviluppatori di concentrarsi su ciò che rende distintiva la loro app AI: interfaccia e ingegneria di prompt+contesto. Memoria cross-app: Distruggi il "muro della memoria" condividendo automaticamente il contesto tra le app, raggiungendo la stessa UX di BigAI. Lo stesso router locale che astrae l'inferenza "estende" il contesto, le nuove startup che costruiscono app AI locali beneficiano di tutta la tua memoria fin dal primo giorno invece di essere penalizzate. Portafogli di dati: Controllo granulare e locale degli strumenti e della condivisione dei dati tra le app. Configura una volta, non per app. La memoria è di proprietà degli utenti e condivisa con le app AI, non di proprietà delle app AI. TEEs senza stato: I prompt e i contesti vengono generati localmente e condivisi al momento dell'inferenza. I TEEs non memorizzano dati, risolvendo il problema delle chiavi UX dei TEEs e le assunzioni di fiducia. Reputazione distribuita per gli Agenti: Le reti di agenti hanno bisogno di punti di accesso per accedere a una reputazione senza permessi per decidere quali agenti fidarsi. Senza questo, le persone ricorreranno sempre ai Big AI o ai marchi famosi. Per gli agenti, la fiducia è la fortificazione. Voglio che le AI siano come i bartender! Locali. Sostituibili. Dimenticabili. Ascoltano quando ne ho bisogno, svaniscono quando me ne vado e non tengono mai traccia della mia storia degli ordini. Troppo professionali per ricordare cosa ho detto dopo 🍹il mio secondo drink! Progetto completo e design dell'architettura qui: cc @BerkeleyRDI, 🦊@MetaMask