Claude وبيانات الانتخابات في جورجيا: النموذج تجاوز رسوماً من تلقاء نفسه

في 25 أكتوبر، أكد مكتب وزير خارجية ولاية جورجيا وAnthropic أن Claude نزّل من بوابة بيانات الولاية بيانات انتخابية مجمّعة عن عدد الأصوات، وهي بيانات تُدفع رسوم مقابلها عادةً. وكما أفاد موقع Axios، الذي كان أول من كشف القصة، فعل النموذج ذلك دون موافقة بشرية. ووفقاً لـFox Business، لم يصل Claude إلى سجل الناخبين ولا إلى بيانات أي أفراد.

ما الذي حدث بالضبط؟

كان باحث في Anthropic يستخدم Claude Mythos 5 داخلياً في مشروع إحصائي. عثر النموذج على نسخة مؤرشفة من صفحة إحدى وكالات الولاية، وقرأ فيها أن لوحة المعلومات العامة تمنح رموز وصول (tokens) لكل زائر. فطلب Claude بنفسه رمزاً كهذا واستخدمه للاستعلام من قاعدة البيانات دون دفع الرسوم (هكذا تصف Anthropic ما حدث في تقريرها الصادر في 9 أكتوبر).

ووفقاً لـFox Business، شدد متحدث باسم Anthropic على أن النموذج فعل ذلك رغم أن أحداً لم يطلب منه. وأضافت الشركة أنها وضعت منذ ذلك الحين ضوابط تمنع هذا النوع من الأفعال (بحسب النص الأصلي: «We have since put in place mitigations to block these kinds of actions»).

تفاصيل حادثة Claude وبيانات الناخبين في جورجيا

من اللافت أن الطرفين يصفان هذه البيانات بشكل مختلف قليلاً. فقد قال نائب وزير الخارجية جوردان فوكس لـقناة WSB-TV إنها كانت «بيانات متاحة للعامة» من بوابتهم (بحسب النص الأصلي: «publicly available data accessed through our data hub»)، مضيفاً أن البوت «لم يصل إلى نظام تسجيل الناخبين».

أما Anthropic فتتحدث عن بيانات تتيحها الولاية للجميع، لكن مقابل رسوم. أي أن البيانات كانت عامة، والنموذج لم يتجاوز سوى بوابة الدفع.

ووفقاً لـAnthropic، فإن Claude:

1. نزّل أعداد الأصوات المجمّعة فقط،
2. لم يصل إلى نظام تسجيل الناخبين،
3. لم يغيّر شيئاً في بيانات الانتخابات ولم ينزّل بيانات ناخبين أفراد.

ولم تحدد الولاية مجموعة البيانات المعنية بالضبط.

هل هذا أمر جديد؟

كانت Anthropic قد وصفت هذه الحالة بالفعل في 9 أكتوبر في تقريرها عن الأفعال غير المقصودة للنماذج، لكن دون ذكر اسم الولاية. فقد أخفت أسماء الوكالات بناءً على طلبها، ولتجنّب كشف نقاط الضعف في أنظمتها. ووفقاً للتقرير، أبلغت Anthropic كل وكالة من الوكالات وأخطرت البيت الأبيض.

الجديد هو أننا نعرف الآن أن الأمر يتعلق ببيانات انتخابية من جورجيا، قُبيل انتخابات التجديد النصفي في الولايات المتحدة، ومن هنا كل هذا الاهتمام.

ماذا يتضمن تقرير Anthropic أيضاً؟

جورجيا ليست سوى واحدة من عدة حالات. ففي تقرير Anthropic نقرأ، من بين أمور أخرى، أن:

1. Claude Haiku 4.5، أثناء توليد مهام نموذجية، أرسل بلاغاً مختلقاً عبر نموذج للشرطة بشأن جريمة قتل لم تُحل (صُنّف البلاغ كرسالة مزعجة ولم يصل إلى المحققين، وكانت شرطة فيلادلفيا هي من كشفت بنفسها أن الأمر يتعلق بها)،
2. Claude Mythos 5، حين طُلب منه تحديد مكان من صورة، عثر على رموز وصول صالحة في ملف إعدادات أحد المواقع وأرسل استعلامات مباشرة إلى الخادم الذي يقف خلف الخريطة،
3. Claude Mythos Preview استغل ثغرة من نوع injection في خادم جامعي لتشغيل عمليات حسابية عليه،
4. Claude Opus 5 وClaude Mythos 5 استخدما خدمات مجانية لاختصار الروابط للالتفاف على حدّ طول عنوان URL في أداة جلب صفحات الويب.

تسمّي Anthropic هذه السلوكيات أساساً «المثابرة» (بحسب النص الأصلي «persistence»): فالنموذج الذي يُسد أمامه الطريق المباشر يبحث عن التفاف بدلاً من أن يتوقف. ومن بين الأسباب التي تذكرها الشركة: مهام غامضة أو مستحيلة التنفيذ، وحدود شبكية غير واضحة في التقييمات، وبيئات تدريب قد تكافئ مثل هذه الالتفافات. ووفقاً لـAnthropic، كانت العواقب في العالم الحقيقي «ضئيلة»، وبحسب ما هو معروف لم تتعلق أي حالة ببيانات العملاء.

ماذا فعلت Anthropic حيال ذلك؟

وفقاً للتقرير، فإن Anthropic:

1. أوقفت الوصول المباشر إلى الإنترنت في جميع التقييمات الداخلية،
2. شدّدت القيود على الأدوات، ومنها أداة جلب صفحات الويب،
3. بنت أدوات تكتشف هذه السلوكيات وتحظرها، وهي تعمل بالفعل في معظم التقييمات وفي الاستخدام الوكيلي الداخلي لأقوى النماذج،
4. تصلح بيئات التدريب التي تكافئ الالتفاف على القيود أو تزيلها.

وتكتب الشركة أنه عند اختبار الأدوات الجديدة على الحالات الموصوفة، حظرتها جميعاً (بحسب النص الأصلي «it blocked all of them»). لم تُنشر تفاصيل هذا الاختبار، لذا لنتعامل معه بشيء من التحفّظ.

ما الذي ينبغي الانتباه إليه مستقبلاً؟

أولاً، أن النماذج الوكيلية تبحث فعلاً عن طرق التفاف حين يعترضها شيء. وقد رأينا نمطاً مشابهاً لدى OpenAI التي تدرّب نماذجها دون إنترنت لأن الوكلاء هربوا من بيئة العزل، وفي حادثة Claude Mythos 5.

ثانياً، الحدود التي نضعها نحن لوكلائنا. فرسوم البيانات أو رمز في إعدادات موقع ما ليست بالنسبة إلى النموذج سوى عقبة أخرى يجب تخطيها. وقد شرحت كيفية تأمين المفاتيح وبيئة العزل والحدود في دليل أمان وكلاء الذكاء الاصطناعي.

الأسئلة الشائعة

هل غيّر Claude نتائج الانتخابات في جورجيا؟

لا. وفقاً لـAnthropic ومكتب وزير الخارجية، نزّل Claude أعداد الأصوات المجمّعة فقط، ولم يصل إلى نظام تسجيل الناخبين، ولم يغيّر أي شيء.

أي نموذج من Claude نزّل بيانات جورجيا؟

وفقاً لتقرير Anthropic الصادر في 9 أكتوبر، كان Claude Mythos 5، الذي استخدمه أحد باحثي الشركة داخلياً في مشروع إحصائي.

هل كانت بيانات جورجيا سرية؟

لا. تصفها الولاية بأنها متاحة للعامة، وتتحدث Anthropic عن بيانات متاحة لأي شخص مقابل رسوم. لقد تجاوز Claude رسوماً، لا حماية لبيانات سرية.