FlashProve: Anthropic تثبت أي نموذج أعطى الإجابة

نشر فريق Frontier Red Team في Anthropic في 2 نوفمبر FlashProve، وهو نموذج أولي مفتوح لما يُعرف بالاستدلال القابل للإثبات (provable inference). يتيح لمزوّد النموذج أن يثبت بطريقة تشفيرية أن إجابة معينة صدرت عن مجموعة أوزان محددة أُعلن عنها مسبقًا، دون الكشف عن الأوزان نفسها. الكود متاح على GitHub بترخيص Apache 2.0.

ما المشكلة التي يحلها FlashProve؟

عندما نستعلم نموذجًا عبر واجهة API، لا نملك وسيلة للتحقق من أن النموذج الذي أجابنا هو فعلًا النموذج الذي ندفع ثمنه. يضرب المؤلفون مثالًا بخدمة وسيطة تستبدل النموذج بصمت “for cost reasons”، وبمزوّد قد يقدّم نسخة أرخص أو أضعف ثم يزوّر السجلات.

يجيب FlashProve عن ذلك ببرهان zkSNARK، أي برهان قصير بمعرفة صفرية. ويعمل على خطوتين:

1. مرة واحدة لكل نموذج ينشر المزوّد التزامًا بالأوزان: “بصمة” قصيرة تربطه بمجموعة أوزان واحدة دون أن تكشفها.
2. لكل استعلام يولّد الخادم برهانًا على أن النموذج المُعلن هو الذي أنتج هذه الرموز تحديدًا. ويمكن لأي شخص التحقق من البرهان على معالج CPU عادي، دون الوصول إلى الأوزان.

للبرهان عدة خصائص: البرهان الصادق يُقبل دائمًا، وتزوير برهان مستحيل عمليًا، والأوزان والقيم الوسيطة تبقى مخفية، والبرهان نفسه صغير ورخيص التحقق.

ما مدى سرعة FlashProve؟

هنا يصبح الأمر مثيرًا. عرض الفريق النظام على نموذج Llama 4 Maverick الكامل، وهو نموذج MoE (mixture-of-experts) بـ400 مليار معامل، منها نحو 17 مليارًا نشطة لكل رمز، بأوزان 4 بت. وبحسب المنشور:

1. يحتاج المُثبِت إلى وحدة H100 واحدة و24 نواة CPU، ويبثّ الأوزان من نحو 290 غيغابايت من ذاكرة المضيف.
2. تستغرق المرحلة التمهيدية نحو 39 دقيقة وتُنفّذ مرة واحدة لكل نموذج.
3. تستغرق دفعة من 24 استعلامًا نحو 223 ثانية، أي نحو 110 رموز في الثانية، ويبلغ حجم البرهان الواحد 18.78 ميغابايت.
4. يستغرق التحقق من البرهان 17 ثانية على 24 خيطًا (21 ثانية على خيط واحد)، دون GPU.

لا تزال التكلفة الإضافية كبيرة: يستغرق الإثبات نحو 72 ضعف الوقت الذي يحتاجه vLLM لمعالجة الاستعلامات الـ24 نفسها (بين 66 و77 ضعفًا بحسب التشغيل). وللمقارنة، يستشهد المؤلفون بأعمال مفتوحة سابقة بلغت أجزاء من رمز في الثانية أو عملت على نماذج بحجم GPT-2.

وأين Claude من كل هذا؟

في العمل البحثي نفسه. بحسب المؤلفين، طوّر Claude تحسينات zkSNARK الخاصة بالاستدلال وكتب مواصفات البروتوكول. لكن الفريق ينبّه إلى أن Claude “often makes decisions that are hard to evaluate”، لذلك صيغت خصائص الأمان وأُثبتت في Lean. يضم المستودع، من بين أمور أخرى، المُثبِت، ومُحققًا سريعًا بلغة C++، ومُحققًا ثانيًا مُتحققًا منه رسميًا في Lean، وبحسب المؤلفين يتفق الاثنان على كل برهان جرى اختباره. وقد كتبت عن تعامل Claude مع البراهين الرسمية في مقال التحقق الرسمي من 123 مكتبة مفتوحة المصدر.

ومن بين المؤلفين باحثون من Anthropic وEPFL وMIT وStarkWare وSuccinct.

ما الذي ينبغي الانتباه إليه؟

أولًا، هذا نموذج أولي بحثي. لا يذكر المنشور شيئًا عن استخدام FlashProve مع نماذج Claude أو في بيئة الإنتاج لدى Anthropic، والمستودع مُعلَّم بأنه غير مُصان ولا يقبل التعديلات.

ثانيًا، القيود التي يذكرها المؤلفون أنفسهم. يغطي البرهان نسخة صحيحة الأعداد من الأوزان وفك الترميز الجشع (greedy decoding)، لذا قد تختلف الإجابات التي تستخدم أخذ العينات. السياق محدود بـ1024 رمزًا، وبنية النموذج غير مخفية، والتصميم يفترض نموذج MoE. كما لا توجد ضمانات رسمية للكود التنفيذي السريع.

ثالثًا، زمن الانتظار. يُنتج FlashProve البرهان بعد الاستدلال وعلى دفعات، فلا نحصل عليه مع الإجابة.

فيمَ يمكن أن يفيد؟

يذكر المؤلفون، من بين أمور أخرى، اكتشاف الخوادم المخترقة أو النماذج المستبدلة، وتأكيد أي نموذج كتب نصًا معينًا، والتأكد من أن النماذج المعتمدة وحدها هي التي تُقدَّم. ومن الأفكار اللافتة ما يُسمى “Proof-of-Failure”: برهان على أن المزوّد استهلك عددًا محددًا على الأقل من رموز نموذج معين دون أن يصل إلى نتيجة، كأن يثبت أن النموذج لم يجد أخطاء في تصحيح برمجي بعد مليون رمز على الأقل.

هذا نهج مختلف عن العلامة المائية في Claude، التي تُعلّم النص إحصائيًا وتحتاج إلى مفتاح سري لاكتشافها. أما FlashProve فيقدّم برهانًا رياضيًا يمكن لأي شخص التحقق منه. ويخطط الفريق لإخفاء تفاصيل البنية وتوسيع حد الـ1024 رمزًا ليشمل نافذة السياق كاملة.

الأسئلة الشائعة

ما هو FlashProve؟

نموذج أولي مفتوح من Anthropic للاستدلال القابل للإثبات: نظام براهين تشفيرية (zkSNARK) يتيح التحقق من أن إجابة ما ولّدها نموذج محدد ومُعلن، دون كشف أوزانه.

هل يعمل FlashProve مع Claude؟

لا يذكر منشور Anthropic ذلك. اختبره الفريق على نموذج Llama 4 Maverick المفتوح، والمشروع نفسه نموذج أولي بحثي.

هل يمكنني التحقق من برهان FlashProve بنفسي؟

نعم. بحسب ملف README، يمكن تشغيل التحقق من برهان تجريبي على Linux باستخدام g++ 13، بأقل من 2 غيغابايت من الذاكرة ودون GPU. أما توليد البراهين للنموذج الكامل فيتطلب H100 بسعة 80 غيغابايت ومئات الغيغابايتات من الذاكرة.

ما ترخيص FlashProve؟

ترخيص Apache 2.0. أوزان النموذج غير مضمّنة، ويجب تنزيلها من Hugging Face بموجب ترخيص Llama 4.