Các doanh nghiệp xây dựng RAG trên hàng trăm nguồn dữ liệu, không phải chỉ một! - Microsoft cung cấp nó trong các sản phẩm M365. - Google cung cấp nó trong Vertex AI Search của mình. - AWS cung cấp nó trong Amazon Q Business của mình. Hãy xây dựng một RAG được hỗ trợ bởi MCP trên hơn 200 nguồn (100% địa phương):

Dữ liệu doanh nghiệp bị phân tán trên nhiều nguồn khác nhau. Hôm nay, chúng ta sẽ xây dựng một máy chủ MCP thống nhất có thể truy vấn hơn 200 nguồn từ một giao diện. Công nghệ sử dụng: - @mcpuse để xây dựng một khách hàng MCP cục bộ - @MindsDB để kết nối với các nguồn dữ liệu - @ollama để phục vụ GPT-oss cục bộ Hãy bắt đầu!

Dưới đây là quy trình làm việc: - Người dùng gửi một truy vấn. - Đại lý kết nối với máy chủ MindsDB MCP để tìm công cụ. - Chọn công cụ phù hợp dựa trên truy vấn của người dùng và gọi nó. - Cuối cùng, nó trả về một phản hồi phù hợp với ngữ cảnh. Bây giờ, hãy cùng khám phá mã nhé!

1️⃣ Cài đặt Docker MindsDB cung cấp các hình ảnh Docker có thể chạy trong các container Docker. Cài đặt MindsDB cục bộ bằng cách sử dụng hình ảnh Docker bằng cách chạy lệnh trong terminal của bạn. Xem cái này 👇

2️⃣ Bắt đầu MindsDB GUI Sau khi cài đặt hình ảnh Docker, hãy truy cập localhost cổng 47334 trong trình duyệt của bạn để truy cập trình chỉnh sửa MindsDB. Thông qua giao diện này, bạn có thể kết nối với hơn 200 nguồn dữ liệu và thực hiện các truy vấn SQL trên chúng. Kiểm tra điều này 👇

3️⃣ Tích hợp các nguồn dữ liệu Hãy bắt đầu xây dựng công cụ truy vấn liên bang của chúng ta bằng cách kết nối các nguồn dữ liệu với MindsDB. Chúng ta sử dụng Slack, Gmail, GitHub và Hacker News làm các nguồn dữ liệu liên bang của mình. Xem cái này 👇

4️⃣ Cấu hình máy chủ MCP Sau khi xây dựng động cơ truy vấn liên bang, hãy thống nhất các nguồn dữ liệu của chúng ta bằng cách kết nối chúng với máy chủ MCP của MindsDB. Thêm cấu hình máy chủ MCP vào một tệp JSON như hình dưới đây. Xem cái này 👇

5️⃣ Kết nối khách hàng với máy chủ Chúng tôi thiết lập khách hàng địa phương của mình thông qua mcp-use và kết nối nó với máy chủ MCP chỉ với 4 dòng mã. 1. Khởi tạo khách hàng MCP từ tệp cấu hình. 2. Kết nối LLM địa phương qua Ollama. 3. Tạo Đại lý sử dụng LLM và Khách hàng. 4. Chạy truy vấn. Kiểm tra điều này 👇

Xong rồi! Máy chủ MindsDB MCP của chúng tôi hiện đã kết nối với một khách hàng địa phương qua mcp-use! Nó cung cấp hai công cụ: - list_databases: Liệt kê tất cả các nguồn dữ liệu được kết nối với MindsDB. - query: Trả lời các truy vấn của người dùng về dữ liệu liên kết. Kiểm tra cái này 👇

Cuối cùng, chúng tôi bọc cấu hình của mình trong một giao diện Streamlit, nơi chúng tôi có thể thay đổi cấu hình MCP một cách linh hoạt và trò chuyện trực tiếp với đại lý. Xem bản demo này👇

Đến đây là hết! Nếu bạn thấy nó hữu ích, hãy chia sẻ lại với mạng lưới của bạn. Tìm tôi → @_avichawla Mỗi ngày, tôi chia sẻ các hướng dẫn và thông tin về DS, ML, LLMs và RAGs.