Ich habe mein eigenes ChatGPT von Grund auf neu erstellt, und du kannst das auch. Karpathy's nanochat ist eine einzelne, saubere, minimalistische und hackbare Codebasis, um ein modernes LLM zu erstellen. Indem du dies einrichtest, wirst du lernen, wie man: > einen Tokenizer von Grund auf trainiert > Pre-Training: die nächste Wortvorhersage meistern > Mid-Training: das Modell lehren, Gespräche zu führen > SFT: auf hochwertigen Dialogdatensätzen feinabstimmen > jeden Schritt des Prozesses bewerten und protokollieren Ich habe dies in einem LightningAI-Studio gemacht, und du kannst alles mit einem einzigen Klick reproduzieren (keine Einrichtung erforderlich). Link im nächsten Tweet!