أنت شركة ناشئة في مجال الذكاء الاصطناعي تحاول الاختيار بين السحابة أو وحدة معالجة الرسوميات المحلية. إليك تفصيل التكلفة والعائد على الاستثمار الذي تحتاجه. 🧵

دعونا نتحدث عن الأرقام. 📉 تكلف مجموعة معالجة رسومات محلية ب 64 نواة ~38 ألف دولار مقدما + 4.2 ألف دولار سنويا للطاقة. ما يعادلها في السحابة تكلف ~2.8 ألف دولار شهريا. نقطة التعادل هي 14 شهرا فقط إذا كنت تستخدمها على مدار الساعة. إذا كان عبء عملك يعمل فقط 20٪ من الوقت، فإن Cloud Spot Instances هو الأفضل في رأس المال.

التوزيع الموسيقي هو مفتاح المرونة. خذ شركات التكنولوجيا المالية: فهي تستخدم أدوات مثل Slurm-on-Kubernetes للحفاظ على النماذج الحساسة محلية، ثم تنتقل إلى أنوية سحابية 10k+ للاختبارات الليلية. اشتر عندما تتجاوز الوظيفة 1,200 ساعة أساسية شهريا. الإيجار إذا كان أقصر.

سجل استخدام بطاقة الرسوميات لديك. لا تخمن. إذا كنت في وضع الخمول > 60٪ من الوقت، فأنت تدفع أكثر من اللازم مقابل الأجهزة. التحول إلى انفجار السحب. دورة العمل > 70٪ باستمرار؟ شراء أو تأجير المعدن العاري.