Företag bygger RAG över 100-tals datakällor, inte en! - Microsoft levererar den i M365-produkter. - Google skickar det i sin Vertex AI Search. - AWS skickar det i sin Amazon Q Business. Låt oss bygga en MCP-driven RAG över 200+ källor (100 % lokala):

Företagsdata är utspridda över många källor. Idag ska vi bygga en enhetlig MCP-server som kan fråga 200+ källor från ett gränssnitt. Teknisk stack: - @mcpuse man bygger en lokal MCP-klient - @MindsDB man ansluter till datakällor - @ollama man serverar GPT-oss lokalt Låt oss börja!

Här är arbetsflödet: - Användaren skickar en fråga. - Agenten ansluter till MindsDB MCP-servern för att hitta verktyg. - Väljer lämpligt verktyg baserat på användarens fråga och anropar det - Slutligen returnerar den ett kontextuellt relevant svar Låt oss nu dyka in i koden!

1️⃣ Docker-inställning MindsDB tillhandahåller Docker-avbildningar som kan köras i Docker-containrar. Installera MindsDB lokalt med hjälp av Docker-avbildningen genom att köra kommandot i terminalen. Kolla in det här 👇

2️⃣ Starta MindsDB GUI När du har installerat Docker-avbildningen går du till localhost-port 47334 i webbläsaren för att komma åt MindsDB-redigeraren. Genom detta gränssnitt kan du ansluta till över 200 datakällor och köra SQL-frågor mot dem. Kolla in det här 👇

3️⃣ Integrera datakällor Nu ska vi börja skapa vår federerade frågemotor genom att ansluta våra datakällor till MindsDB. Vi använder Slack, Gmail, GitHub och Hacker News som våra federerade datakällor. Kolla in det här 👇

4️⃣ Konfiguration av MCP-server När du har skapat den federerade frågemotorn ska vi förena våra datakällor genom att ansluta dem till MindsDB:s MCP-server. Lägg till MCP-serverkonfigurationen i en JSON-fil enligt nedan. Kolla in det här 👇

5️⃣ Anslut klient till server Vi sätter upp vår lokala klient via mcp-use och ansluter den till MCP-servern med bara 4 rader kod. 1. Initiera MCP-klienten från en konfigurationsfil. 2. Anslut lokal LLM via Ollama. 3. Skapa agent med LLM och klient. 4. Kör frågan. Kolla in det här 👇

Färdig! Vår MindsDB MCP-server är nu ansluten till en lokal klient via mcp-use! Den erbjuder två verktyg: - list_databases: Listar alla datakällor som är anslutna till MindsDB. - query: Besvarar användarfrågor om federerade data. Kolla in det här 👇

Slutligen lindar vi in vår installation i ett Streamlit-gränssnitt, där vi dynamiskt kan ändra MCP-konfigurationen och chatta direkt med agenten. Kolla in den här demon👇

Det är en wrap! Om du tyckte att det var insiktsfullt, dela det igen med ditt nätverk. Hitta mig → @_avichawla Varje dag delar jag med mig av handledningar och insikter om DS, ML, LLM och RAGs.