برمجة فضاء الأوزان: GPT-6 Astra أصلح أوزان Qwen بنفسه

في 2 نوفمبر نشر أربعة باحثين من MIT CSAIL (ريكيا تاكيهي وجايدن تيوه وأليكس جانغ وعمر خطاب) مقالًا بعنوان “Sparks of Weight-Space Programming”، أي «شرارات برمجة فضاء الأوزان». يبيّنون فيه أن GPT-6 Astra من OpenAI قادر على قراءة الأوزان الخام لشبكة عصبية، ومعرفة الغرض الذي دُرّبت عليه، وتصحيحها يدويًا، دون تدرّجات ودون حلقة تدريب. وخلال ساعة واحدة جمع المقال أكثر من 650 نقطة على Hacker News.

ما هي برمجة فضاء الأوزان (Weight-Space Programming)؟

هكذا يسمّي المؤلفون الحالة التي يقرأ فيها نموذج لغوي عام، مستخدَم «كما هو»، أوزانَ شبكة أخرى ويكتبها مباشرة وفق هدف موصوف بلغة عادية. دون مُحسِّن مثل Adam، ودون انحدار التدرّج، وفي بعض التجارب دون أي تغذية راجعة من البيئة أصلًا.

وكما يكتب الباحثون، فإن Astra «يستخدم الاستدلال ليكتشف ما يحسبه كل جزء من الشبكة أو ما ينبغي أن يحسبه»، ثم يغيّر الأوزان بناءً على ذلك. ويصف الفريق ثماني تجارب في ثلاث مجموعات: قراءة الأوزان، وإصلاحها، وكتابتها من الصفر.

ماذا قرأ Astra من الأوزان وحدها؟

1. تعرّف على لعبة من 17,253 رقمًا. درّب الباحثون بخوارزمية PPO أربع شبكات متطابقة البنية على ألعاب على غرار Breakout وPong وPac-Man وFreeway. حصل Astra على الأوزان فقط كنص، دون قائمة بالألعاب، وسمّى اللعبة الصحيحة للشبكات الأربع كلها.
2. قرأ شكلًا من نموذج انتشار (diffusion). دون تشغيل الشبكة، حدّد ما إذا كان النموذج يرسم دائرة أم مربعًا أم مثلثًا. واللافت أنه رسمها كخطوط خارجية، مع أن النماذج تولّد أشكالًا مملوءة، وهذا بحسب المؤلفين يُظهر أنه كان يقرأ هندسة الأوزان لا يحسب الناتج.
3. تعرّف على لغة نموذج لغوي صغير (7.2 مليون معامل) من الكتل الوسطى للمحوّل (transformer) فقط، دون طبقتي الإدخال والإخراج. أصاب في Python والروماجي والإنجليزية في كل المحاولات، وأشار بدقة إلى رؤوس الانتباه التي تنسخ النص السابق (ما يُعرف بـ«induction heads»).

كيف أصلح GPT-6 Astra نموذج Qwen؟

هذا هو الجزء الذي يدور حوله أكبر قدر من الحديث. حصل Astra على جلسة Python فيها أوزان Qwen3.5-0.8B (دون GPU)، ومهام تدريبية من GSM8K وMATH، وحدّ أقصى من 10 أو 25 أو 50 تشغيلًا للنموذج. الهدف: رياضيات أفضل، دون تدريب.

لاحظ Astra مشكلة تحذّر منها بطاقة نموذج Qwen نفسها: النموذج يقع في حلقات تفكير ولا يصل إلى إجابة. تتبّع الحلقات إلى اتجاه واحد تكتبه طبقتا MLP رقم 15 و19، ثم طرحه من 64 عمودًا من أعمدة الإخراج في كل منهما. أي 131,072 وزنًا من 0.8 مليار، بنسبة 0.016%.

Qwen3.5-0.8B	MATH-500	GSM8K	IFEval
الأساسي	7.9%	13.8%	21.0%
بعد التعديل (50 تشغيلًا)	48.1%	67.1%	62.3%

انخفضت نسبة إجابات MATH-500 التي بلغت حد 32,768 رمزًا من 93% إلى 33.1%. ومع 10 و25 تشغيلًا كان التحسّن أصغر بكثير (12.3% و14.1% على التوالي في MATH-500).

هل يستطيع Astra كتابة شبكة من الصفر؟

بحسب المقال نعم، على الأقل شبكة صغيرة. في ألعاب MinAtar حصل Astra على القواعد، والشيفرة المصدرية للعبة، وبنية الشبكة (جميع الأوزان تساوي صفرًا)، ثم كتب الأوزان كنص في إجابة واحدة. دون بيانات، ودون أدوات، ودون لعب أي جولة قبل التقييم.

1. في Breakout حققت شبكة Astra 517.4 نقطة، مقابل 25.3 نقطة لـ PPO المدرَّب لمدة 500 مليون خطوة.
2. في Asterix حققت 53.2 نقطة مقابل 55.2 نقطة لـ PPO بعد 500 مليون خطوة.
3. في Seaquest حققت 53.1 نقطة مقابل 88.9 نقطة.

في Breakout برمج Astra الطبقة الأولى لتحسب أين ستسقط الكرة، والثانية لتحرّك المضرب إلى هناك. وبالطريقة نفسها وُلدت شبكة للعبة Go على لوحة 9×9 بـ 1.48 مليون وزن: مع 50 تشغيلًا هزمت شبكة PPO بالحجم نفسه دُرّبت على 20 مليون مباراة.

ما الذي ينبغي الانتباه إليه؟

أولًا، الإخفاقات التي يصفها المؤلفون بأنفسهم. من الأوزان وحدها لم يستطع Astra التمييز بين نسخة «متملّقة» من Gemma 3 270M ونسخة صادقة (نجح فقط بعد الوصول إلى أنماط الانتباه). كما أن Gemma 3 270M، الذي نادرًا ما يقع في الحلقات، لم يتحسن عمليًا في MATH-500 بعد التعديلات (6.8% قبل، و7.7% في أفضل الأحوال بعد). وكما يكتب الباحثون، يمكن لتعديل الأوزان أن يزيل عائقًا كان يخفي مهارة، لكنه لم يضف مهارة لم تكن لدى النموذج.

ثانيًا، الحجم. نموذج كبير جدًا كان يحسّن شبكة من 0.8 مليار معامل، ويذكّر معلّقون على HN بأن إزالة اتجاه واحد من الأوزان تقنية معروفة (ما يُسمّى «abliteration»). لم يكرّر أحد النتائج بشكل مستقل بعد، لكن السجلات الكاملة لكل تجربة منشورة للعموم.

ثالثًا، الاتجاه. يذكر المؤلفون صراحة التحسين الذاتي التكراري: نموذج يحسّن أوزانه أو أوزان نموذج أحدث منه. هذه رؤية حتى الآن، لكن الموضوع يذكّر كثيرًا بـ Recursive Flint والبرهان الذي قدّمه نموذج OpenAI الداخلي، حيث يقوم الذكاء الاصطناعي بعمل بحثي بشكل متزايد.

الأسئلة الشائعة

ما هي برمجة فضاء الأوزان؟

هي نهج يقرأ فيه نموذج لغوي أوزانَ شبكة عصبية أخرى ويكتبها مباشرة وفق هدف موصوف بالكلمات، دون انحدار التدرّج ودون حلقة تدريب. اقترح الاسم (Weight-Space Programming) باحثون من MIT CSAIL في مقال بتاريخ 2 نوفمبر 2026.

هل GPT-6 Astra متاح؟

نعم، GPT-6 Astra هو الفئة الأعلى في عائلة نماذج OpenAI (من Luna، مرورًا بـ Terra وSol، وصولًا إلى Astra). لم تُنشر أدوات التجارب كمنتج جاهز: يقول المؤلفون إنهم ما زالوا يبنون معيارًا (benchmark) وبيئة تشغيل (harness) لبرمجة فضاء الأوزان.

هل يمكن تحسين نموذج كبير بهذه الطريقة؟

لا نعرف بعد. أكبر نموذج جرى تعديله كان بحجم 0.8 مليار معامل، والمؤلفون أنفسهم يكتبون أن القدرات «ما زالت محدودة»، بسبب طول السياق وتصميم بيئة التشغيل أساسًا.