Lass uns OpenAI gpt-oss (100% lokal) optimieren:

Heute lernen wir, wie man OpenAIs neueste gpt-oss lokal anpasst. Wir werden ihm mehrsprachige Denkfähigkeiten verleihen, wie im Video gezeigt. Wir verwenden: - @UnslothAI für effizientes Fine-Tuning. - @huggingface transformers, um es lokal auszuführen. Lass uns anfangen!

1️⃣ Lade das Modell Wir beginnen damit, das gpt-oss (20B-Variante) Modell und seinen Tokenizer mit Unsloth zu laden. Überprüfe das 👇

2️⃣ Definiere die LoRA-Konfiguration Wir werden LoRA für effizientes Fine-Tuning verwenden. Dazu nutzen wir Unsloth's PEFT und geben an: - Das Modell - LoRA Niedrigrang (r) - Schichten für das Fine-Tuning usw. Überprüfe diesen Code 👇

3️⃣ Datensatz laden Wir werden gpt-oss feinabstimmen und ihm helfen, mehrsprachige Denkfähigkeiten zu entwickeln. Also laden wir den mehrsprachigen Denkdatensatz, der Folgendes enthält: - Benutzeranfrage auf Englisch. - Argumentation in verschiedenen Sprachen. - Antwort auf Englisch. Überprüfen Sie das 👇

4️⃣ Datensatz vorbereiten Bevor wir mit dem Fine-Tuning beginnen, müssen wir den Datensatz in einem Gesprächsformat vorbereiten: - Wir standardisieren den Datensatz. - Wir wählen das Nachrichtenfeld aus. - Wir wenden die Chat-Vorlage darauf an. Überprüfen Sie den Code und ein Datenbeispiel 👇

5️⃣ Trainer definieren Hier erstellen wir ein Trainer-Objekt, indem wir die Trainingskonfiguration angeben, wie Lernrate, Modell, Tokenizer und mehr. Sieh dir das an 👇

6️⃣ Train Damit sind wir mit dem Training gestartet. Der Verlust nimmt im Allgemeinen mit den Schritten ab, was bedeutet, dass das Modell korrekt feinjustiert wird. Überprüfen Sie diesen Code und die Trainingsprotokolle 👇

Schließlich zeigt das Video, wie das LLM vor und nach dem Fine-Tuning angestoßen wird. Nach dem Fine-Tuning ist das Modell in der Lage, die Argumentationstokens auf Französisch zu generieren, bevor es die endgültige Antwort auf Englisch generiert. Überprüfen Sie dies 👇

Das war's! Wenn du es aufschlussreich fandest, teile es mit deinem Netzwerk. Finde mich → @_avichawla Jeden Tag teile ich Tutorials und Einblicke zu DS, ML, LLMs und RAGs.