Мой следующий блог-пост выходит на этой неделе, и он гораздо глубже, чем обычно. Я расскажу, как я донастраивал Phi-3-mini-4k-instruct (3.8B) от Microsoft с помощью LoRA на своем Mac, используя MLX. Эксперимент: исследование того, можно ли донастроить модель 3.8B, работающую локально, чтобы она "говорила как я", обучив её на моих собственных блог-постах. Я уже загрузил веса адаптера LoRA на Hugging Face. Но что более важно, пост поделится всем процессом, чтобы более технические специалисты могли узнать, как начать донастройку: - Подготовка обучающих данных - Обучение модели и гиперпараметры - Оценка результатов - Публикация на Hugging Face И я поделюсь всем кодом, необходимым для того, чтобы сделать это самостоятельно.
14,93K