الاستدلال (Inference) هو استخدام نموذج سبق تدريبه. عندما تسأل روبوت دردشة، أو ترسل صورة للتعرّف عليها، أو تترجم نصًا، يكون النموذج في حالة «استدلال»: يتلقى مدخلًا جديدًا ويولّد مخرجًا دون إعادة تدريب.
التدريب والاستدلال#
- التدريب (Training): مرحلة التعلّم. ثقيلة وطويلة ومكلفة، وتُجرى مرة واحدة أو تتكرر أحيانًا.
- الاستدلال (Inference): مرحلة الاستخدام. تُجرى مع كل طلب من المستخدم ويجب أن تكون سريعة.
كأن تحضر دورة لتعلّم القيادة مرة واحدة، ثم تقود كل يوم.
لماذا هو مهم#
تكلفة تشغيل خدمة ذكاء اصطناعي تعود عمليًا في معظمها إلى الاستدلال، لأن عدد الطلبات يزداد بزيادة المستخدمين. وسرعة الاستجابة والتأخير وتكلفة كل طلب كلها تعتمد على الاستدلال.
ما الذي يؤثر فيه#
- حجم النموذج وعدد معاملاته
- نوع العتاد، مثل البطاقة الرسومية
- طول المدخلات والمخرجات
- تقنيات تصغير النموذج، مثل التكميم (Quantization)
أين تصادفه#
عندما تشغّل نموذجًا مفتوح المصدر على حاسوبك أو خادمك، فأنت تجري استدلالًا. وعندما تستخدم واجهة برمجية (API) لخدمة ما، يجري الاستدلال على خوادمها وتدفع مقابله.
خطأ شائع#
يُظنّ أن النموذج يتعلّم في كل مرة تسأله. في الاستدلال تبقى أوزان النموذج ثابتة عادةً ولا تدخل إليه معرفة جديدة.