Я створив свій власний ChatGPT з нуля, і ви теж можете. Наночат karpathy – це єдина, чиста, мінімалістична та зламана кодова база для побудови сучасного LLM. Налаштувавши це, ви дізнаєтеся, як: > тренувати токенізатор з нуля > попередня підготовка: освойте передбачення наступних слів > середини тренінгу: навчіть модель вести бесіди > SFT: точне налаштування високоякісних діалогових наборів даних > оцінювати та реєструвати кожен крок процесу Я робив це на студії LightningAI, і ви можете відтворити все одним клацанням миші (налаштування не потрібні). посилання в наступному твіті!