Децентрализованное движение ИИ растет!
Marco De Rossi
Marco De Rossi4 авг., 06:46
Я только что запустил 🤖 - карту активных децентрализованных AI проектов. Я хотел бы увидеть, как эта экосистема вырастет в 10 раз! Приватность сама по себе не способствует принятию. Нам нужно соответствовать и превосходить UX централизованного Большого AI. Соединители источников данных и память - это защитные барьеры. Стоимость переключения AI приложений вырастет в течение следующих 2 лет. Почему? Лучшие источники данных → увеличенное использование → более богатая история → более ценная память, которая полностью теряется при смене провайдеров → более высокие защитные барьеры. Вот почему мы должны действовать быстро. Сегодня на саммите DeAI в @UCBerkeley я представил "Bartender Stack", чтобы решить эту проблему, сохраняя тот же UX для пользователей и разработчиков: Абстракция вывода: Разработчики должны просто вызывать общую функцию вывода, а устройство пользователя решает, к какой модели направить запрос, используя удаленные TEE или локальный вывод. В настоящее время разработчики должны предоставлять свою модель для локального вывода или обеспечивать свои собственные TEE, сохраняющие приватность. Это безумие — вот почему они по умолчанию используют централизованные API вывода. То, что я предлагаю, на самом деле то, что мы уже делаем с общей вычислительной техникой: вы просто просите ядро выполнить вычисления, полностью абстрагируя процессор, память и т. д. Это позволяет разработчикам сосредоточиться на том, что делает их AI приложение уникальным: интерфейс и проектирование подсказок + контекста. Кросс-приложенческая память: Уничтожьте "памятный барьер", автоматически делая контекст доступным для всех приложений, достигая того же UX, что и у BigAI. Тот же локальный маршрутизатор, который абстрагирует вывод, "расширяет" контекст. Новые стартапы, создающие локальные AI приложения, получают выгоду от всей вашей памяти с первого дня, а не подвергаются штрафам. Кошельки данных: Гранулярный, локальный контроль инструментов и обмена данными между приложениями. Настройка один раз, а не для каждого приложения. Память принадлежит пользователям и делится с AI приложениями, а не принадлежит AI приложениям. Безгосударственные TEE: Подсказки и контексты генерируются локально и делятся во время вывода. TEE не хранят данные, решая проблему UX ключей TEE и предположений о доверии. Распределенная репутация для агентов: Сетям агентов нужны точки доступа для получения разрешенной репутации, чтобы решать, каким агентам доверять. Без этого люди всегда будут по умолчанию обращаться к Большим AI или известным брендам. Для агентов доверие - это защитный барьер. Я хочу, чтобы AI были как бармены! Локальные. Заменяемые. Забывчивые. Они слушают, когда я нуждаюсь в них, исчезают, когда я ухожу, и никогда не хранят запись моей истории заказов. Слишком профессиональны, чтобы помнить, что я сказал после 🍹второго напитка! Полная колода и архитектурный дизайн здесь: cc @BerkeleyRDI, 🦊@MetaMask
402