Ik heb mijn eigen ChatGPT vanaf nul gebouwd, en jij kunt dat ook. karpathy's nanochat is een enkele, schone, minimale en hackbare codebase om een moderne LLM te bouwen. Door dit op te zetten, leer je hoe je: > een tokenizer vanaf de grond op traint > pre-training: beheers de voorspelling van het volgende woord > mid-training: het model leert om gesprekken te voeren > sft: fijn afstemmen op hoogwaardige dialoogdatasets > elke stap van het proces evalueren en loggen Ik heb dit gedaan op een LightningAI-studio, en jij kunt alles reproduceren met een enkele klik (geen setup vereist). link in de volgende tweet!