Mari kita menyempurnakan OpenAI gpt-oss (100% lokal):

Hari ini, mari kita pelajari cara menyempurnakan gpt-oss terbaru OpenAI secara lokal. Kami akan memberinya kemampuan penalaran multibahasa seperti yang ditunjukkan dalam video. Kami akan menggunakan: - @UnslothAI untuk penyempurnaan yang efisien. - @huggingface transformator untuk menjalankannya secara lokal. Mari kita mulai!

1️⃣ Muat model Kita mulai dengan memuat model gpt-oss (varian 20B) dan tokenizernya menggunakan Unsloth. Periksa ini 👇

2️⃣ Tentukan konfigurasi LoRA Kami akan menggunakan LoRA untuk penyempurnaan yang efisien. Untuk melakukan ini, kami menggunakan PEFT Unsloth dan menentukan: - Model - LoRA peringkat rendah (r) - Lapisan untuk penyempurnaan, dll. Periksa kode 👇 ini

3️⃣ Muat kumpulan data Kami akan menyempurnakan gpt-oss dan membantunya mengembangkan kemampuan penalaran multibahasa. Jadi kami memuat kumpulan data pemikiran multibahasa, yang memiliki: - Kueri pengguna dalam bahasa Inggris. - Penalaran dalam bahasa yang berbeda. - Tanggapan dalam bahasa Inggris. Periksa ini 👇

4️⃣ Siapkan kumpulan data Sebelum menyempurnakan, kita harus menyiapkan himpunan data dalam format percakapan: - Kami menstandarkan kumpulan data. - Kami memilih bidang pesan. - Kami menerapkan templat obrolan ke dalamnya. Memeriksa kode dan sampel 👇 data

5️⃣ Tentukan Pelatih Di sini, kita membuat objek Trainer dengan menentukan konfigurasi pelatihan, seperti tingkat pembelajaran, model, tokenizer, dan lainnya. Lihat 👇 ini

6️⃣ Kereta api Setelah itu, kami memulai pelatihan. Kerugian umumnya berkurang dengan langkah-langkah, yang berarti model sedang disempurnakan dengan benar. Periksa kode ini dan log 👇 pelatihan

Terakhir, video menunjukkan permintaan LLM sebelum dan sesudah penyempurnaan. Setelah penyempurnaan, model ini dapat menghasilkan token penalaran dalam bahasa Prancis sebelum menghasilkan respons akhir dalam bahasa Inggris. Periksa ini 👇

Itu bungkusnya! Jika Anda merasa berwawasan luas, bagikan kembali dengan jaringan Anda. Temukan saya → @_avichawla Setiap hari, saya berbagi tutorial dan wawasan tentang DS, ML, LLM, dan RAG.