Khi AI bắt đầu bịa đặt, @Mira_Network lập tức vung tay tát một cái 😂 Kể một chuyện thú vị, vào năm 2023, một luật sư kỳ cựu ở New York đã nộp một ý kiến pháp lý lên tòa án liên bang. Tài liệu trông có vẻ không có gì sai sót, nhưng đã bị thẩm phán nhìn thấu, tất cả các trường hợp được liệt kê trong văn bản đều không tồn tại, không ngờ đều là do ChatGPT bịa ra. Kể từ năm 2023, openai đã trở thành công cụ tạo nội dung chính trong công việc và học tập của chúng ta. Trước đó, tôi thường phải tìm kiếm thông tin trên Baidu và Google, giờ chỉ cần gpt tóm tắt cho tôi. Dần dần, tôi đã hình thành thói quen, cơm đến miệng, áo đến tay, cũng lười biếng không kiểm tra tính xác thực mà trực tiếp sử dụng. AI dù có bịa đặt, ai cũng không biết thật giả, sẽ nảy sinh nhiều sự cố dở khóc dở cười. Bởi vì chỉ cần ngôn ngữ trôi chảy, logic hợp lý, nó có thể lừa được hầu hết mọi người. Nhưng thực ra, những chuyện như vậy không thể hoàn toàn đổ lỗi cho AI, đầu ra của AI ngày càng nhiều, nhưng khả năng xác minh gần như dừng lại, vấn đề ảo giác trở thành rủi ro cấu trúc. Cũng chính trong bối cảnh này, mạng lưới xác minh đầu ra AI của @Mira_Network trở thành nhu cầu cấp thiết. @Mira_Network xây dựng một mạng lưới xác minh bao gồm nhiều mô hình, sử dụng sự đánh giá chéo giữa các hệ thống để bù đắp cho vấn đề không thể tự chứng minh của từng mô hình. ▪️Bước đầu tiên là phân tích tuyên bố. Bất kỳ một đầu ra phức tạp nào cũng sẽ được phân tách thành một loạt các tuyên bố cơ bản hơn. Ví dụ: Trái đất quay quanh mặt trời, mặt trăng quay quanh trái đất sẽ được tách thành hai câu độc lập, mỗi câu đều có thể được đánh giá tính xác thực riêng. Tiếp theo, nhiều mô hình sẽ tham gia vào quy trình xác minh, mỗi mô hình đưa ra đánh giá độc lập, hệ thống sẽ thống kê mức độ đồng thuận giữa chúng và đánh giá độ tin cậy. Nếu mức độ đồng thuận cao hơn ngưỡng, tuyên bố đó sẽ được coi là hợp lệ; nếu có sự khác biệt nghiêm trọng, sẽ kích hoạt kiểm tra lại hoặc bác bỏ. ▪️Dữ liệu từ thử nghiệm xác minh của Mira cho thấy: > Cơ chế đồng thuận ba mô hình đã nâng cao độ chính xác từ 73.1% lên 95.6%. > Tỷ lệ sai sót tổng thể giảm 84%. > Giá trị đồng nhất trung bình κ giữa các mô hình gần 0.8, đã có khả năng đánh giá ổn định. Tất nhiên, nếu chỉ để nhiều mô hình bỏ phiếu đánh giá tính xác thực, rất dễ xảy ra hành vi đoán ngẫu nhiên. ▪️Mira có thể hoạt động là vì nó đã nhúng cơ chế trò chơi vào cấu trúc hệ thống. Xác minh không phải là hành động không có chi phí. Mỗi nút mô hình tham gia xác minh đều cần chịu trách nhiệm về kết quả. Nếu thường xuyên xảy ra xung đột trong đánh giá với các nút khác, hoặc bị phát hiện rõ ràng lệch khỏi logic, sẽ mất quyền xác minh và mất đi động lực kinh tế trong mạng lưới. Để xác minh thực sự có hiệu quả, Mira đã thực hiện nhiều tối ưu hóa kỹ thuật trong cấu trúc thực thi. ▪️Một trong những điểm quan trọng nhất là: nén đầu ra xác minh thành một token duy nhất. Công nghệ chuyển đổi yêu cầu này đã giảm đáng kể chi phí cho mỗi lần xác minh, cho phép hệ thống hoạt động trong các tình huống ứng dụng quy mô lớn mà không bị quá tải. ▪️Về mặt quyền riêng tư, các nút xác minh của Mira không bao giờ tiếp xúc với văn bản đầy đủ. Hệ thống tự động phân tách nội dung, phân phối cho các nút khác nhau, đảm bảo dữ liệu không thể phục hồi trong quá trình xác minh. Trong năm qua, AI đã được đưa vào ngày càng nhiều tình huống, tốc độ tạo ra ngày càng nhanh, nhưng cơ chế xác minh gần như dừng lại. AI nói nhảm sẽ không bị truy cứu nhưng con người thì sẽ 😭 Vì vậy, vai trò của @MiraNetworkCN là khi AI bịa đặt lung tung thì có thể ra tay ngăn chặn.