Tôi vừa ra mắt 🤖 - một bản đồ các dự án AI phi tập trung đang hoạt động. Tôi muốn thấy hệ sinh thái này phát triển gấp 10 lần! Riêng tư không tự nó thúc đẩy việc áp dụng. Chúng ta cần phải phù hợp và vượt qua UX của Big AI tập trung. Các kết nối nguồn dữ liệu và bộ nhớ là những rào cản. Chi phí chuyển đổi ứng dụng AI sẽ tăng vọt trong 2 năm tới. Tại sao? Nguồn dữ liệu tốt hơn → tăng cường sử dụng → lịch sử phong phú hơn → bộ nhớ có giá trị hơn mà hoàn toàn bị mất khi chuyển nhà cung cấp → rào cản cao hơn. Đó là lý do tại sao chúng ta phải hành động nhanh chóng. Hôm nay tại Hội nghị DeAI tại @UCBerkeley, tôi đã trình bày "Bartender Stack" để giải quyết vấn đề này, trong khi vẫn giữ nguyên UX cho người dùng và nhà phát triển: Trừu tượng hóa suy diễn: Các nhà phát triển chỉ cần gọi một hàm suy diễn tổng quát, và thiết bị của người dùng quyết định mô hình nào để chuyển tiếp, cho dù sử dụng TEEs từ xa hay suy diễn cục bộ. Hiện tại, các nhà phát triển phải mang mô hình của riêng họ cho suy diễn cục bộ hoặc cung cấp TEEs bảo vệ quyền riêng tư của riêng họ. Điều này thật điên rồ - đó là lý do tại sao họ mặc định sử dụng các API suy diễn tập trung. Những gì tôi đang đề xuất thực sự là những gì chúng tôi đã làm với tính toán tổng quát: bạn chỉ cần yêu cầu kernel thực hiện phép toán, hoàn toàn trừu tượng hóa bộ xử lý, bộ nhớ, v.v. Điều này cho phép các nhà phát triển tập trung vào những gì làm cho ứng dụng AI của họ nổi bật: giao diện và kỹ thuật prompt+context. Bộ nhớ chéo ứng dụng: Phá hủy "rào cản bộ nhớ" bằng cách tự động chia sẻ ngữ cảnh giữa các ứng dụng, đạt được UX giống như BigAI. Bộ định tuyến cục bộ cùng trừu tượng hóa suy diễn "mở rộng" ngữ cảnh, các startup mới xây dựng ứng dụng AI cục bộ sẽ được hưởng tất cả bộ nhớ của bạn từ ngày đầu thay vì bị phạt. Ví dữ liệu: Kiểm soát chi tiết, cục bộ các công cụ và chia sẻ dữ liệu giữa các ứng dụng. Cấu hình một lần, không phải cho từng ứng dụng. Bộ nhớ thuộc về người dùng và được chia sẻ với các ứng dụng AI, không thuộc về các ứng dụng AI. TEEs không trạng thái: Các prompt và ngữ cảnh được tạo ra cục bộ và chia sẻ vào thời điểm suy diễn. TEEs không lưu trữ dữ liệu, giải quyết vấn đề UX của TEEs và các giả định về niềm tin. Danh tiếng phân tán cho các Đại lý: Mạng lưới đại lý cần các điểm truy cập để tiếp cận danh tiếng không cần sự cho phép để quyết định đại lý nào đáng tin cậy. Nếu không có điều này, mọi người sẽ luôn mặc định vào Big AIs hoặc các thương hiệu nổi tiếng. Đối với các đại lý, niềm tin là rào cản. Tôi muốn các AI giống như những người phục vụ! Cục bộ. Có thể thay thế. Hay quên. Họ lắng nghe khi tôi cần, biến mất khi tôi rời đi, và không bao giờ giữ lại lịch sử đơn hàng của tôi. Quá chuyên nghiệp để nhớ những gì tôi đã nói sau 🍹ly đồ uống thứ hai của tôi! Thiết kế toàn bộ bộ và kiến trúc ở đây: cc @BerkeleyRDI, 🦊@MetaMask