Когда ИИ начинает нести чушь, @Mira_Network сразу же дает ему пощечину 😂 Расскажу интересную историю: в 2023 году опытный адвокат из Нью-Йорка подал юридическое заключение в федеральный суд. Документы выглядели безупречно, но судья сразу же заметил, что все приведенные в них примеры не существуют, и оказалось, что это все выдумки ChatGPT. С 2023 года OpenAI стал основным инструментом для работы и обучения. Раньше, когда мне нужно было найти информацию, я искал в Baidu и Google, а теперь мне просто нужно, чтобы GPT сделал для меня резюме. Со временем это стало привычкой: еда приходит в рот, одежда подается на руки, и мне лень проверять правдивость, я просто принимаю это. ИИ, даже если он выдумывает, никто не знает, что правда, а что нет, и это приводит к множеству недоразумений. Поскольку язык звучит гладко, а логика выглядит приемлемо, он может обмануть подавляющее большинство людей. Но на самом деле такие вещи нельзя полностью сваливать на ИИ. Выход ИИ становится все более обширным, но возможности проверки почти остановились, и проблема иллюзий стала структурным риском. Именно в этом контексте сеть проверки вывода ИИ от @Mira_Network стала необходимостью. @Mira_Network создает сеть проверки, состоящую из нескольких моделей, используя перекрестные оценки между системами, чтобы компенсировать проблему самопроверки отдельных моделей. ▪️Первый шаг — разбор утверждений. Любой сложный вывод будет разбит на ряд более простых утверждений. Например: "Земля вращается вокруг Солнца", "Луна вращается вокруг Земли" будут разбиты на два независимых предложения, каждое из которых можно отдельно проверить на правдивость. Затем несколько моделей подключаются к процессу проверки, каждая модель независимо выдает свое заключение, система будет статистически оценивать степень их согласия и уровень доверия. Если согласие превышает порог, это утверждение считается действительным; если разногласия серьезные, то запускается вторичная проверка или отклонение. ▪️Данные из тестовой проверки Mira показывают: > Механизм согласия трех моделей повысил точность с 73,1% до 95,6%. > Общая ошибка снизилась на 84%. > Средняя согласованность между моделями κ близка к 0,8, что уже обеспечивает стабильную способность к суждению. Конечно, если просто позволить нескольким моделям голосовать за правдивость, это может привести к случайным догадкам. ▪️Причина, по которой Mira может функционировать, заключается в том, что она встроила механизмы игры в структуру системы. Проверка не является безвозмездным действием. Каждая модель-узел, участвующая в проверке, должна нести ответственность за результаты. Если часто возникают конфликты в оценках с другими узлами или если обнаруживается явное отклонение от логической траектории, узел потеряет право на проверку и утратит экономические стимулы в сети. Чтобы сделать проверку действительно эффективной, Mira провела множество инженерных оптимизаций в своей архитектуре. ▪️Ключевым моментом является: сжатие выходных данных проверки в единый токен. Эта технология трансформации утверждений значительно снизила стоимость каждой проверки, позволяя системе работать в масштабных приложениях, не перегружая производительность. ▪️С точки зрения конфиденциальности, узлы проверки Mira никогда не получают полный текст. Система автоматически разбивает содержимое и распределяет его между различными узлами, обеспечивая необратимость данных в процессе проверки. За последний год ИИ был внедрен во все больше сценариев, скорость генерации постоянно увеличивается, но механизмы проверки в основном остановились. ИИ может нести чушь и не нести ответственности, но люди — да 😭 Поэтому роль @MiraNetworkCN заключается в том, чтобы остановить, когда ИИ начинает нести чушь.