العقول المستفسرة تريد أن تعرف: ما هو عدد وحدات المعالجة الرسومية (GPUs) المطلوبة لتدريب GPT 4 المرتقب، الجيل التالي من نموذج اللغة الرائد لـ OpenAI؟
مع كل تكرار يجلب المزيد من التعقيد والقدرات، فإن المتطلبات الحسابية لمثل هذا المسعى هائلة بالتأكيد.
هل نتطلع إلى بضع مئات، أو ربما الآلاف، من وحدات معالجة الرسومات للوصول إلى مستوى الأداء المتوقع من GPT 4؟
قد تكشف الإجابة عن الحجم الحقيقي للإنجاز التكنولوجي الذي ينتظرنا.
8 الأجوبة
Elena
Mon Jul 22 2024
امتدت مدة التدريب بأكملها إلى 100 يوم، مما يتطلب استثمارًا مستمرًا للوقت والموارد.
Daniele
Mon Jul 22 2024
استخدم التدريب 25000 وحدة معالجة رسوميات NVIDIA A100، مما يمثل قوة حسابية هائلة.
benjamin_brown_entrepreneur
Mon Jul 22 2024
يتطلب GPT-4، وهو نموذج لغوي متطور، موارد كبيرة للتدريب عليه.
MysticRainbow
Mon Jul 22 2024
تستهلك وحدات معالجة الرسومات NVIDIA A100 هذه، عند نشرها في الخوادم، ما يقرب من 6.5 كيلووات من الطاقة لكل منها.
Gianluca
Mon Jul 22 2024
مع هذا العدد الكبير من وحدات معالجة الرسومات المستخدمة، يكون استخدام الطاقة أثناء التدريب كبيرًا.