¡Acabo de lanzar 🤖 - un mapa de proyectos de IA descentralizada activos! ¡Me gustaría ver este ecosistema crecer 10X! La privacidad por sí sola no impulsa la adopción. Necesitamos igualar y superar la experiencia de usuario de la IA centralizada. Los conectores de fuentes de datos y la memoria son las barreras. Los costos de cambio de las aplicaciones de IA se dispararán en los próximos 2 años. ¿Por qué? Mejores fuentes de datos → mayor uso → historia más rica → memoria más valiosa que se pierde completamente al cambiar de proveedores → barreras más altas. Por eso debemos actuar rápido. Hoy en la Cumbre DeAI en @UCBerkeley presenté el "Bartender Stack" para resolver esto, manteniendo la misma experiencia de usuario para usuarios y desarrolladores: Abstracción de inferencia: Los desarrolladores deberían simplemente llamar a una función de inferencia genérica, y el dispositivo del usuario decide a qué modelo dirigirla, ya sea utilizando TEEs remotos o inferencia local. Actualmente, los desarrolladores deben traer su propio modelo para la inferencia local o proporcionar sus propios TEEs que preserven la privacidad, lo cual es una locura, ¡por eso recurren a las APIs de inferencia centralizadas! Lo que propongo es en realidad lo que ya hacemos con la computación general: solo le pides al núcleo que haga los cálculos, abstraiendo completamente el procesador, la memoria, etc. Esto permite a los desarrolladores centrarse en lo que hace distintiva a su aplicación de IA: la interfaz y la ingeniería de prompts + contexto. Memoria entre aplicaciones: Destruir la "barrera de memoria" compartiendo automáticamente el contexto entre aplicaciones, logrando la misma experiencia de usuario que BigAI. El mismo enrutador local que abstrae la inferencia "extiende" el contexto. Las nuevas startups que construyen aplicaciones de IA locales se benefician de toda tu memoria desde el primer día en lugar de ser penalizadas. Bolsas de datos: Control granular y local de herramientas y compartición de datos entre aplicaciones. Configura una vez, no por aplicación. La memoria es propiedad de los usuarios y se comparte con las aplicaciones de IA, no es propiedad de las aplicaciones de IA. TEEs sin estado: Los prompts y contextos se generan localmente y se comparten en el momento de la inferencia. Los TEEs no almacenan datos, resolviendo el problema de las claves de UX de los TEEs y las suposiciones de confianza. Reputación distribuida para Agentes: Las redes de agentes necesitan puntos de entrada para acceder a la reputación sin permisos para decidir en qué agentes confiar. Sin esto, las personas siempre recurrirán a las grandes IA o marcas famosas. Para los agentes, la confianza es la barrera. ¡Quiero que las IA sean como los bartenders! Locales. Reemplazables. Olvidadizas. Escuchan cuando los necesito, desaparecen cuando me voy y nunca mantienen un registro de mi historial de pedidos. ¡Demasiado profesionales para recordar lo que dije después de 🍹mi segunda bebida! Diseño completo de la arquitectura aquí: cc @BerkeleyRDI, 🦊@MetaMask