لا تزال VLAs جديدة جدا ويجد الكثير من الناس صعوبة في فهم الفرق بين VLAs و LLMs. فيما يلي نظرة عميقة على كيفية اختلاف أنظمة الذكاء الاصطناعي هذه في التفكير والاستشعار والعمل. الجزء 1. دعنا نقسم الفروق الرئيسية وكيف تختلف عوامل الذكاء الاصطناعي الملفوفة حول LLM عن وكلاء المشغل الذين يستخدمون نماذج VLA: 1. الإحساس: كيف ينظرون إلى العالم الوكيل (LLM): يعالج النصوص أو البيانات المنظمة، مثل JSON وواجهات برمجة التطبيقات وأحيانا الصور. إنه مثل الدماغ الذي يعمل بمدخلات نظيفة ومجردة. فكر في قراءة دليل أو تحليل جدول بيانات. رائع للبيئات المنظمة ولكنه مقيد بما يتم تغذيته به. المشغل (VLA): يشاهد وحدات البكسل الأولية في الوقت الفعلي من الكاميرات، بالإضافة إلى بيانات المستشعر (مثل اللمس والموضع) واستقبال الحس العميق (الوعي الذاتي بالحركة). إنه مثل التنقل في العالم بالعيون والحواس ، والازدهار في الإعدادات الديناميكية والفوضوية مثل واجهات المستخدم أو المساحات المادية. 2. التصرف: كيف يتفاعلون الوكيل: يعمل عن طريق استدعاء الوظائف أو الأدوات أو واجهات برمجة التطبيقات. تخيل ذلك كمدير يرسل تعليمات دقيقة مثل "حجز رحلة عبر Expedia API". إنه متعمد ولكنه يعتمد على أدوات مسبقة الصنع وواجهات واضحة. المشغل: ينفذ إجراءات مستمرة منخفضة المستوى، مثل تحريك مؤشر الماوس أو الكتابة أو التحكم في مفاصل الروبوت. إنه مثل العامل الماهر الذي يتلاعب بالبيئة بشكل مباشر ، وهو مثالي للمهام التي تتطلب دقة في الوقت الفعلي. 3. السيطرة: كيف يتخذون القرارات الوكيل: يتبع حلقة بطيئة وعاكسة: التخطيط ، استدعاء أداة ، تقييم النتيجة ، التكرار. إنه مرتبط بالرمز المميز (مقيد بمعالجة النص) ومرتبط بالشبكة (في انتظار استجابات واجهة برمجة التطبيقات). هذا يجعلها منهجية ولكنها بطيئة للمهام في الوقت الفعلي. المشغل: يعمل ، ويتخذ قرارات تدريجية في حلقة تغذية مرتدة ضيقة. فكر في الأمر كلاعب يتفاعل على الفور مع ما يظهر على الشاشة. تتيح هذه السرعة تفاعلا سلسا ولكنها تتطلب معالجة قوية في الوقت الفعلي. 4. البيانات للتعلم: ما الذي يغذي تدريبهم الوكيل: مدرب على مجموعات نصية واسعة أو تعليمات أو وثائق أو مجموعات بيانات RAG (Retrieval-Augmented Generation). يتعلم من الكتب أو التعليمات البرمجية أو الأسئلة الشائعة ، ويتفوق في التفكير على المعرفة المنظمة. المشغل: يتعلم من العروض التوضيحية (على سبيل المثال، مقاطع فيديو لبشر يؤدون المهام) أو سجلات التشغيل عن بعد أو إشارات المكافأة. إنه مثل التعلم من خلال المشاهدة والممارسة ، وهو مثالي للمهام التي تكون فيها التعليمات الصريحة نادرة. 5. أوضاع الفشل: حيث تنكسر الوكيل: عرضة للهلوسة (اختلاق الإجابات) أو خطط الأفق الطويل الهشة التي تنهار إذا فشلت خطوة واحدة. إنه مثل الخبير الاستراتيجي الذي يبالغ في التفكير أو يسيء قراءة الموقف. المشغل: يواجه تحولا متغيرا (عندما لا تتطابق بيانات التدريب مع ظروف العالم الحقيقي) أو أخطاء مركبة في التحكم (أخطاء صغيرة كرة ثلج). إنه مثل سائق يفقد السيطرة على طريق غير مألوف. 6. Infra: التكنولوجيا التي تقف وراءهم الوكيل: يعتمد على موجه/موجه لتحديد الأدوات التي يجب استدعاؤها، وسجل أداة للوظائف المتاحة، والذاكرة/RAG للسياق. إنه إعداد معياري ، مثل مركز القيادة الذي ينسق المهام. المشغل: يحتاج إلى خطوط أنابيب استيعاب الفيديو ، وخادم إجراءات للتحكم في الوقت الفعلي ، ودرع أمان لمنع الإجراءات الضارة ، ومخزن مؤقت لإعادة التشغيل لتخزين التجارب. إنه نظام عالي الأداء مصمم للبيئات الديناميكية. 7. حيث يضيء كل منهما: بقعهم الحلوة الوكيل: يهيمن على مهام سير العمل باستخدام واجهات برمجة التطبيقات النظيفة (على سبيل المثال، أتمتة العمليات التجارية)، أو التفكير في المستندات (على سبيل المثال، تلخيص التقارير)، أو إنشاء التعليمات البرمجية. إنه خيارك المفضل للمهام المنظمة عالية المستوى. المشغل: يتفوق في البيئات الفوضوية الخالية من واجهة برمجة التطبيقات مثل التنقل في واجهات المستخدم عالية الكعب أو التحكم في الروبوتات أو التعامل مع المهام الشبيهة باللعبة. إذا كان ينطوي على تفاعل في الوقت الفعلي مع أنظمة غير متوقعة ، فإن VLA هي الملك. 8. النموذج العقلي: مخطط + فاعل فكر في وكيل LLM على أنه المخطط: فهو يقسم المهام المعقدة إلى أهداف واضحة ومنطقية. مشغل VLA هو الفاعل ، وينفذ هذه الأهداف من خلال التفاعل المباشر مع وحدات البكسل أو الأنظمة المادية. يراقب المدقق (نظام أو وكيل آخر) النتائج لضمان النجاح. $CODEC