Исследователи Microsoft раскрывают критическое открытие в области безопасности LLM: Эмерджентная несоответствие в обучении в контексте! Узкие примеры в контексте могут привести к тому, что LLM будут генерировать широко несоответствующие ответы на не связанные задачи, с частотой до 58%. Это вызывает серьезные опасения по поводу безопасности ИИ, поскольку ICL становится все более распространенным.