Рух децентралізованого штучного інтелекту зростає!
Marco De Rossi
Marco De Rossi4 серп., 06:46
Я щойно запустив 🤖 – карту активних проєктів децентралізованого штучного інтелекту. Я б хотів, щоб ця екосистема зросла в 10 разів! Конфіденційність сама по собі не сприяє прийняттю. Нам потрібно відповідати та перевершувати UX централізованого Big AI. Джерело даних, з'єднувачі та пам'ять – це рови. Витрати на зміну додатків штучного інтелекту різко зростуть протягом наступних 2 років. Чому? Кращі джерела даних → збільшене використання → багатша історія → більш цінна пам'ять, яка повністю втрачається при зміні провайдера → вищих ровах. Ось чому ми повинні діяти швидко. Сьогодні на DeAI Summit в @UCBerkeley я представив «Стек бармена», щоб вирішити цю проблему, зберігаючи при цьому той самий UX для користувачів і розробників: Абстракція висновків: Розробники повинні просто викликати загальну функцію висновування, і пристрій користувача вирішує, на яку модель її направити, використовуючи віддалені TEE або локальне висновування. Наразі розробники повинні принести власну модель для локального висновку або надати власні TEE, що зберігають конфіденційність. що є божевіллям — саме тому вони за замовчуванням використовують API централізованого логічного висновку. Те, що я пропоную, насправді є тим, що ми вже робимо із загальними обчисленнями: ви просто просите ядро виконати математику, повністю абстрагуючи процесор, пам'ять тощо. Це дозволяє розробникам зосередитися на тому, що відрізняє їхній додаток зі штучним інтелектом: інтерфейс і швидкість+контекстна інженерія. Пам'ять між додатками: знищіть «рів пам'яті», автоматично розподіляючи контекст між програмами, досягаючи однакового UX BigAI. Той самий локальний маршрутизатор, який абстрагує висновки, «розширює» контекст, нові стартапи, які створюють локальні додатки для штучного інтелекту, отримують вигоду з усієї вашої пам'яті з першого дня, а не потрапляють під санкції. Гаманці даних: детальний, локальний контроль інструментів та обмін даними між додатками. Налаштуйте один раз, а не для кожної програми. Пам'ять належить користувачам і використовується спільно з програмами штучного інтелекту, а не належить програмам штучного інтелекту. Stateless TEEs: підказки та контексти генеруються локально та поширюються під час висновків. TEE не зберігають жодних даних, що вирішує проблему UX ключів TEE та припущення про довіру. Розподілена репутація для агентів: мережам агентів потрібні точки входу для доступу до репутації без дозволу для прийняття рішення про те, яким агентам довіряти. Без цього люди завжди за замовчуванням будуть віддавати перевагу великому штучному інтелекту або відомим брендам. Для агентів довіра – це рів. Я хочу, щоб штучний інтелект був схожий на барменів! Місцевий. Змінні. Забудькуватий. Вони слухають, коли мені це потрібно, зникають, коли я йду, і ніколи не ведуть записів про історію моїх замовлень. Занадто професійно, щоб запам'ятати, що я сказав після 🍹другого напою! Повний дизайн палуби та архітектури тут: cc @BerkeleyRDI, 🦊 @MetaMask
337