انتقل إلى المحتوى

DeepSeek DeepInfer: محرك استدلال إنتاجي يصبح مفتوح المصدر

DeepSeek DeepInfer، المحرك الذي يشغّل V4.1 Flash، أصبح الآن برخصة Apache 2.0. ماذا يتضمن، وما الذي ينقصه، ومن يستطيع تشغيله فعلًا.

Piotr Sobolewski3 دقائق قراءة

هذا المقال بلغات أخرى:DeutschEnglishEspañolFrançaisItaliano日本語Polski简体中文

في هذا المقال
  1. ما هو DeepSeek DeepInfer؟
  2. لماذا يحظى بكل هذا الاهتمام؟
  3. هل هناك أي عيب؟
  4. كيف نجرّب DeepInfer؟
  5. FAQ

أعلنت DeepSeek على X في 20 أكتوبر أنها تتيح DeepInfer كمشروع مفتوح المصدر، وهو إطار الاستدلال الداخلي لديها. وعليه تعمل خدمة DeepSeek-V4.1-Flash الإنتاجية. الكود متاح على GitHub برخصة Apache 2.0، ووصل النقاش حوله إلى المركز الأول على Hacker News.

ما هو DeepSeek DeepInfer؟

هو المحرك الذي يأخذ أوزان النموذج ويحوّلها إلى خدمة تعمل: يوزّع العمل على المسرّعات، ويجمع الطلبات في دفعات (batches)، ويولّد الرموز بأسرع ما يمكن وبأقل تكلفة. بحسب ملف README فهو «the high-performance inference framework that powers DeepSeek’s large-scale production services»، والنسخة المنشورة توفّر الاستدلال دون اتصال (offline) مع الوظائف الأساسية اللازمة للخدمة على نطاق واسع.

ومن أبرز ما فيه:

  1. نوى (kernels) خاصة بـ DeepSeek: ‏FlashMLA وDeepGEMM وDeepEP وTileKernels وDeepSelect، وهي مكتبات نشرتها الشركة سابقًا، إضافة إلى نوى مكتوبة بـ TileLang.
  2. التوازي لنموذج MoE ‏(mixture-of-experts): ‏data parallelism للانتباه (attention) وexpert parallelism مع موازنة الخبراء (EPLB).
  3. DSpark، أي فك الترميز التخميني (speculative decoding) برموز مسودة، يقدّر فيه النموذج كم منها يستحق التحقق.
  4. SWA bounded replay، الذي يحصر إعادة حساب مرحلة prefill في مقطع ختامي قصير.
  5. أخذ عينات حتمي (المدخل نفسه يعطي النتيجة نفسها، حاليًا على NVIDIA فقط) وstructured outputs باستخدام regex أو JSON Schema أو قواعد EBNF.

ومن اللافت أن قسم الشكر يذكر أن DeepInfer كان «originally built primarily on vLLM»، مع استلهام من SGLang وTensorRT-LLM.

لماذا يحظى بكل هذا الاهتمام؟

أولًا، إنه تحوّل بمقدار 180 درجة. في ربيع 2025 شرحت DeepSeek في مستودع open-infra-index أنها فكّرت في نشر المحرك كاملًا ثم عدلت عن ذلك: كان الكود نسخة متفرعة (fork) من vLLM معدّلة بشدة ومرتبطة بالبنية التحتية الداخلية، ولم يكن لدى الفريق وقت لصيانة مشروع كبير. وبدلًا من ذلك وعدت بفصل مكتبات منفردة. والآن نحصل على المحرك كاملًا.

ثانيًا، قابلية التوسع. وفقًا لملخص Zhihu Frontier لمنشور تقني من DeepSeek على Zhihu، تعالج مجموعة خوادم واحدة 155 تريليون رمز يوميًا، مع نسبة إصابة 96% في ذاكرة التخزين المؤقت للمدخلات، ومتوسط زمن حتى أول رمز يقارب 400 ملّي ثانية، وتوليد 230 رمزًا في الثانية (حتى 300 في البرمجة). هذه أرقام إنتاج تقدّمها الشركة نفسها، فلنتعامل معها بتحفّظ.

ثالثًا، المرونة في العتاد. هناك منصتان مدعومتان: وحدات NVIDIA GPU بمعمارية SM100 ‏(Blackwell) وHuawei Ascend 950. وجود مسرّع صيني في المحرك الإنتاجي لأحد أكثر المختبرات شهرة موضوع قائم بذاته، كما يظهر في تعليقات HN (من «a nuclear bomb» إلى تساؤلات عن الدوافع).

إضافة إلى ذلك نشرت DeepSeek مكتبة deepseek-recipe التي تدعم، بحسب Zhihu Frontier، واجهات Chat Completions وResponses وMessages، مع ترميز (tokenization) مطابق للواجهة الرسمية.

هل هناك أي عيب؟

هناك بعض العيوب، ويذكرها ملف README بصراحة:

  1. تنقصه أجزاء لخدمة كاملة: نظام KV cache، وفصل مرحلتي prefill وفك الترميز على عقد منفصلة (مع أن معظم المنطق اللازم موجود في المحرك)، وموازنة الحمل بين النسخ المتماثلة.
  2. نموذج واحد: حاليًا لا يدعم إلا DeepSeek-V4.1-Flash.
  3. عتاد من الفئة الأعلى: قيست اختبارات الأداء في README على 4 وحدات SM100 لمرحلة prefill و64 لفك الترميز. لن نشغّله على بطاقة الرسومات المنزلية (وليس هذا هو الهدف ;)).

أي أنه وصفة للشركات والسحابات التي تستضيف نماذج DeepSeek أكثر منه أداة لهاوٍ يملك GPU واحدة. لكن بما أن تحسينات الإنتاج صارت علنية، تستطيع مشاريع أخرى تبنّيها: فقد كتب فريق LightSeek على X أن محركهم TokenSpeed «will learn from and adopt these optimizations».

كيف نجرّب DeepInfer؟

إذا كان لدينا وصول إلى وحدات SM100 أو Ascend 950، فكل ما نحتاجه هو Linux وPython 3.12 وGCC 13+ وCUDA 13 (أو CANN 9.2 لـ Ascend). نبني المشروع بالسكربت ./build.sh، ثم نشغّل python examples/offline_inference.py. عند التشغيل الأول ينزّل السكربت من Hugging Face نقطة الحفظ DeepSeek-V4.1-Flash-1017.

من دون هذا العتاد، الأسهل أن نجرّب النموذج نفسه، مثلًا DeepSeek V4.1 Flash مجانًا في OpenCode. وإذا كانت تهمّنا نماذج مفتوحة أخرى، فيستحق المقال عن Reflection Beam نظرة.

FAQ

هل DeepInfer مجاني؟

نعم. الكود برخصة Apache 2.0، لذا يمكن استخدامه تجاريًا أيضًا.

هل يعمل DeepInfer مع نماذج غير نماذج DeepSeek؟

ليس حاليًا. يذكر ملف README نموذج DeepSeek-V4.1-Flash فقط.

هل يحلّ DeepInfer محل vLLM؟

ليس تمامًا. لقد نشأ من vLLM، لكنه مخصص لنماذج DeepSeek ولمنصتين من العتاد، وتنقصه لخدمة كاملة أمور منها نظام KV cache.