يمثل اليوم إنجازا كبيرا حقا ل Nous ، ولكن أيضا من المحتمل أن يكون مشهد الذكاء الاصطناعي. لقد بدأنا تشغيلا لامركزيا للتدريب المسبق لما هو في الأساس معلمات Deepseek كثيفة - 40B ، وأكثر من 20T من الرموز المميزة ، مع MLA لكفاءة السياق الطويل. جميع نقاط التفتيش ، غير الملدنة ، الملدنة ، مجموعة البيانات ، كل شيء مفتوح المصدر مباشرة مع استمرار التدريب. تحقق من المدونة التي يقودها فريق Psyche @DillonRolnick ، كتب @theemozilla وآري في تغريدة الاقتباس لمعرفة * الكثير * المزيد عن البنية التحتية.
Nous Research
Nous Research‏15 مايو 2025
الإعلان عن إطلاق Psyche تعمل Nous Research على إضفاء الطابع الديمقراطي على تطوير الذكاء الاصطناعي. اليوم ، نشرع في بذل أكبر جهد حتى الآن لجعل هذه المهمة حقيقة واقعة: شبكة Psyche Psyche هي شبكة تدريب لامركزية تجعل من الممكن الجمع بين الحوسبة العالمية معا لتدريب الذكاء الاصطناعي القوي ، مما يمنح الأفراد والمجتمعات الصغيرة إمكانية الوصول إلى الموارد المطلوبة لإنشاء نماذج جديدة ومثيرة للاهتمام وفريدة من نوعها على نطاق واسع. نطلق شبكة الاختبار الخاصة بنا اليوم من خلال التدريب المسبق لمعلمة 40B LLM ، وهو نموذج قوي بما يكفي ليكون بمثابة أساس للمساعي المستقبلية في العلوم المفتوحة. يمثل هذا التشغيل أكبر تدريب مسبق تم إجراؤه عبر الإنترنت حتى الآن ، متجاوزا التكرارات السابقة التي دربت نماذج أصغر على عدد أقل بكثير من رموز البيانات.
‏‎63.34‏K