Исследования MIT показывают, что дебаты с ответами ИИ дают гораздо лучшие результаты Как мы можем использовать эту идею, чтобы уменьшить галлюцинации? 1. Попросить его проверить свои собственные мыслительные процессы Я ИИ 2: У меня есть следующий алгоритм, который поможет мне минимально перестроить мой день, чтобы выделить 75 минут на спортзал. Можешь проверить его и сказать, какие изменения ты бы предложил, чтобы упростить его? < Сгенерированный алгоритм > --- 2. Попросить ИИ быть предельно честным - "Какие предположения ты делаешь, которые мне следует проверить?" - "Будь предельно честным. Является ли этот подход лучшим способом, которым мы можем это сделать, или есть другие, более лучшие способы?" - “Будь честен, если ты не уверен в какой-либо части этого.” - “Лучше сказать ‘я не знаю’, чем гадать.” - “Если у тебя недостаточно контекста, чтобы дать уверенный ответ, просто скажи мне, какая дополнительная информация тебе нужна.” --- 3. Сказать ИИ, что ему можно просить дополнительную информацию. Он отлично справляется с использованием вторичного мышления, чтобы не просто отвечать, но и рассматривать дополнительные области, где он мог бы улучшиться, если бы у него было больше информации. На практике это выглядело бы так: “Я вижу эту ошибку в системе <x>, и я думаю, что она связана с папкой <y>, но я не уверен. "Можешь посмотреть на это и сказать мне, какую информацию ты бы хотел от меня или какие команды ты бы хотел, чтобы я выполнил, чтобы дать тебе больше информации для выяснения, что не так?”