Предприятия создают RAG на основе сотен источников данных, а не одного! - Microsoft поставляет это в продуктах M365. - Google поставляет это в своем Vertex AI Search. - AWS поставляет это в своем Amazon Q Business. Давайте создадим RAG на базе MCP более чем из 200 источников (100% локально):

Данные предприятия разбросаны по многим источникам. Сегодня мы создадим единый сервер MCP, который сможет запрашивать более 200 источников из одного интерфейса. Технологический стек: - @mcpuse для создания локального клиента MCP - @MindsDB для подключения к источникам данных - @ollama для локального обслуживания GPT-oss Давайте начнем!

Вот рабочий процесс: - Пользователь отправляет запрос. - Агент подключается к серверу MindsDB MCP для поиска инструментов. - Выбирает подходящий инструмент на основе запроса пользователя и вызывает его. - Наконец, возвращает контекстно релевантный ответ. Теперь давайте погрузимся в код!

1️⃣ Настройка Docker MindsDB предоставляет образы Docker, которые можно запускать в контейнерах Docker. Установите MindsDB локально, используя образ Docker, выполнив команду в вашем терминале. Посмотрите это 👇

2️⃣ Запустите MindsDB GUI После установки образа Docker перейдите в браузере на localhost порт 47334, чтобы получить доступ к редактору MindsDB. С помощью этого интерфейса вы можете подключаться к более чем 200 источникам данных и выполнять SQL-запросы к ним. Посмотрите это 👇

3️⃣ Интеграция источников данных Давайте начнем строить наш федеративный движок запросов, подключив наши источники данных к MindsDB. Мы используем Slack, Gmail, GitHub и Hacker News в качестве наших федеративных источников данных. Посмотрите на это 👇

4️⃣ Конфигурация сервера MCP После создания федеративного движка запросов давайте объединим наши источники данных, подключив их к серверу MCP MindsDB. Добавьте конфигурацию сервера MCP в файл JSON, как показано ниже. Посмотрите на это 👇

5️⃣ Подключите клиента к серверу Мы настраиваем наш локальный клиент через mcp-use и подключаем его к серверу MCP всего за 4 строки кода. 1. Инициализируйте клиент MCP из конфигурационного файла. 2. Подключите локальную LLM через Ollama. 3. Создайте агента, используя LLM и клиента. 4. Выполните запрос. Проверьте это 👇

Готово! Наш сервер MindsDB MCP теперь подключен к локальному клиенту через mcp-use! Он предлагает два инструмента: - list_databases: Показывает все источники данных, подключенные к MindsDB. - query: Отвечает на запросы пользователей по федеративным данным. Проверьте это 👇

Наконец, мы завершаем нашу настройку в интерфейсе Streamlit, где мы можем динамически изменять конфигурацию MCP и общаться с агентом напрямую. Посмотрите эту демонстрацию👇

На этом всё! Если вам это было полезно, поделитесь с вашей сетью. Найдите меня → @_avichawla Каждый день я делюсь уроками и инсайтами по DS, ML, LLM и RAG.