دعنا نضبط OpenAI gpt-oss (100٪ محليا):
اليوم ، دعنا نتعلم كيفية ضبط أحدث gpt-oss من OpenAI محليا. سنمنحها قدرات تفكير متعددة اللغات كما هو موضح في الفيديو. سوف نستخدم: - @UnslothAI لضبط دقيق بكفاءة. - @huggingface محولات لتشغيلها محليا. هيا نبدأ!
1️⃣ قم بتحميل النموذج نبدأ بتحميل نموذج gpt-oss (متغير 20B) والرمز المميز الخاص به باستخدام Unsloth. تحقق من هذا 👇
2️⃣ تحديد تكوين LoRA سنستخدم LoRA للضبط الدقيق الفعال. للقيام بذلك ، نستخدم PEFT الخاص ب Unsloth ونحدد: - النموذج - LoRA الرتبة المنخفضة (ص) - طبقات للضبط الدقيق ، إلخ. تحقق من هذا الرمز 👇
3️⃣ تحميل مجموعة البيانات سنقوم بضبط gpt-oss ونساعده على تطوير قدرات التفكير متعدد اللغات. لذلك نقوم بتحميل مجموعة بيانات التفكير متعدد اللغات ، والتي تحتوي على: - استعلام المستخدم باللغة الإنجليزية. - التفكير بلغات مختلفة. - الرد باللغة الإنجليزية. تحقق من هذا 👇
4️⃣ إعداد مجموعة البيانات قبل الضبط الدقيق ، يجب علينا إعداد مجموعة البيانات بتنسيق محادثة: - نقوم بتوحيد مجموعة البيانات. - نختار حقل الرسائل. - نطبق قالب الدردشة عليه. التحقق من التعليمات البرمجية وعينة 👇 البيانات
5️⃣ تعريف المدرب هنا ، نقوم بإنشاء كائن مدرب عن طريق تحديد تكوين التدريب ، مثل معدل التعلم والنموذج والرمز المميز والمزيد. تحقق من هذا 👇
6️⃣ قطار مع القيام بذلك ، نبدأ التدريب. تتناقص الخسارة بشكل عام مع الخطوات ، مما يعني أن النموذج يتم ضبطه بشكل صحيح. تحقق من هذا الرمز وسجلات 👇 التدريب
أخيرا ، يظهر الفيديو مطالبة LLM قبل وبعد الضبط الدقيق. بعد الضبط الدقيق ، يكون النموذج قادرا على إنشاء الرموز المميزة للمنطق باللغة الفرنسية قبل إنشاء الاستجابة النهائية باللغة الإنجليزية. تحقق من هذا 👇
هذا التفاف! إذا وجدت أنها ثاقبة ، فأعد مشاركتها مع شبكتك. ابحث عني → @_avichawla كل يوم ، أشارك البرامج التعليمية والرؤى حول DS و ML و LLMs و RAGs.
Avi Chawla
Avi Chawlaمنذ 16 ساعةً
دعنا نضبط OpenAI gpt-oss (100٪ محليا):
‏‎52.19‏K