Мы только что опубликовали Смол Тренировочный Плейбук: сжатие накопленных знаний, чтобы поделиться тем, что действительно нужно для тренировки SOTA LLMs ⚡️ В главной роли наш протагонист SmolLM3, мы охватываем: 🧭 Стратегия о том, стоит ли тренировать свой собственный LLM и сжигать все свои венчурные деньги 🪨 Предварительное обучение, то есть превращение горы текста в модный автозаполнитель 🗿 Как формировать базовые модели с помощью пост-тренировочной алхимии 🛠️ Основная инфраструктура и как отладить свой путь из NCCL чистилища Основные моменты из главы о пост-тренировке в теме 👇