اختراق Anthropic: وكلاء Cathedral للذكاء الاصطناعي دخلوا في أقل من 12 ساعة

في 26 أكتوبر روت صحيفة Washington Post كيف وجد وكلاء الذكاء الاصطناعي التابعون لشركة Cathedral الناشئة، في أقل من 12 ساعة، طريقًا إلى الأنظمة الداخلية لشركة Anthropic. لم يكن ذلك عبر Claude، بل عبر برمجيات خارجية للمبيعات والموارد البشرية وتقنية المعلومات تستخدمها الشركة. جرى اختراق Anthropic هذا على يد Cathedral كاختبار ضمن برنامج Anthropic للإبلاغ عن الثغرات، واليوم يختلف الطرفان حول المدى الذي بلغه الوكلاء.

كيف دخل وكلاء Cathedral إلى Anthropic؟

بحسب تقرير Decrypt، المستند إلى مسودة تقرير Cathedral التي حصلت عليها Washington Post، جرت الأمور هكذا:

1. حاول الوكلاء على مدى عدة أيام اختراق برمجيات Anthropic مباشرة، ولم ينجحوا.
2. ثم غيّروا الهدف إلى أدوات أطراف ثالثة: تطبيقات إدارية وتطبيقات مبيعات تستخدمها أيضًا شركات كثيرة أخرى.
3. وبهذه الطريقة، وفي أقل من 12 ساعة، وجدوا مسارات إلى بيانات حساسة.

ينفّذ وكلاء Cathedral مهامّ متعددة الخطوات من دون أن يوافق إنسان على كل خطوة. ولم يُكشف بعد عن المورّدين الذين دخل الوكلاء عبر أنظمتهم.

ماذا وجدوا، وما الذي لم يحدث بحسب Anthropic؟

هنا تتباعد الروايتان. يتحدث تقرير Cathedral عن مسارات إلى نصوص اجتماعات وبيانات رواتب وعروض عمل، إضافة إلى رسائل على Slack حول أكثر نماذج Anthropic تقدمًا.

أكدت Anthropic الوصول إلى جزء “محدود” (بالأصل “limited set”) من أنظمة المبيعات والموارد البشرية وتقنية المعلومات، كانت فيه بيانات اتصال لبعض العملاء والشركاء وبيانات أساسية لحسابات المستخدمين. وبحسب الشركة، لم يصل الباحثون إلى محادثات العملاء مع Claude ولا إلى الشيفرة المصدرية ولا إلى أوزان النماذج.

وبحسب Anthropic، رصدت أنظمة المراقبة لديها جزءًا من نشاط Cathedral قبل أن تبلغ عنه الشركة الناشئة، وقطعت الشركة الوصول في اليوم نفسه. وأُوقفت التطبيقات المتأثرة إلى أن أكد المورّدون الإصلاحات. ولا يوجد بحسب الشركة ما يشير إلى أن أحدًا غير Cathedral استغل هذه الثغرات.

على ماذا يدور الخلاف؟

على أمرين. الأول قواعد البرنامج. فبحسب Anthropic، لم تكشف Cathedral عن كل نشاطها في أنظمة الشركة، وبالتالي لم تلتزم بالقواعد بالكامل. أما مسودة التقرير فتقول إن الوصول إلى البيانات اقتصر على “الحد الأدنى المطلق، وفقًا لأفضل ممارسات أبحاث الأمن” (بالأصل “kept to the absolute minimum in accordance with security research best practices”).

والثاني حجم التهديد. فالتقرير يتداول بالفعل داخل الإدارة الأمريكية. وقال مسؤول رفيع لم يُكشف اسمه لصحيفة Washington Post إنه إذا كانت “مجموعة من الشبان الذين أسسوا شركة للتو” قادرة على ذلك، فإن “الصينيين قد لا يكونون بعيدين” (بالأصل “If a bunch of kids who have just started a company can do this… then potentially, the Chinese aren’t far behind”). وبحسب Anthropic، تبالغ Cathedral في أهمية هذه النتائج بالنسبة إلى الأمن القومي.

من هي Cathedral؟

شركة حديثة جدًا، أسسها قبل بضعة أشهر أربعة موظفين سابقين في DOGE. وفي يوليو جمعت 160 مليون دولار بتقييم 1.4 مليار دولار (الأرقام من تقرير Decrypt). وبحسب Digital Trends، لديها بالفعل عقود في مجال الأمن السيبراني مع وكالات فيدرالية.

هل هذا جديد في عالم الذكاء الاصطناعي؟

الدخول عبر أدوات أطراف ثالثة مليئة بالثغرات أسلوب كلاسيكي. الجديد أن وكلاء ذكاء اصطناعي هم من أنجزوا المهمة، في بضع ساعات، داخل شركة تبني بنفسها بعضًا من أقوى النماذج وتتحدث كثيرًا عن حماية أوزانها. وكما نعلم، تقول Anthropic في نشرة الاكتتاب S-1 التي نشرتها في 26 أكتوبر إنها أخّرت الـ pre-training لنموذج جديد أكثر من شهر تحديدًا لتعزيز حماية الأوزان (كتبت عن نشرة الاكتتاب وأسهم Anthropic).

وهو أيضًا مثال آخر من السلسلة نفسها التي ينتمي إليها الهجوم السيبراني بالذكاء الاصطناعي عبر منصة Cairn: يجد الوكلاء أضعف حلقة أسرع مما يستطيع إنسان أن يراجع قائمة المورّدين.

لنتعامل مع الأمر كله بحذر. فتقرير Cathedral لم يُنشر، ولا نعرف محتواه إلا من مصادر غير مباشرة. ورواية Anthropic بدورها رواية الطرف الذي لديه سبب للتقليل من شأن الحادثة - ومن هنا قائمتان مختلفتان إلى هذا الحد لما “رآه” الوكلاء.

ما الذي ينبغي الانتباه إليه مستقبلًا؟

1. لم تكن أضعف نقطة هي النموذج، بل خدمة SaaS عادية. من يؤمّن وكلاءه ومفاتيح API عليه أن يراجع بالقدر نفسه الصلاحيات في أدوات الموارد البشرية وCRM وتقنية المعلومات.
2. نجحت المراقبة جزئيًا فقط. فبحسب Anthropic، رصدت المراقبة جزءًا من نشاط Cathedral وليس كله.
3. الوكلاء يختصرون زمن الهجوم. إذا كانت شركة ناشئة فتية قد فعلت ذلك في 12 ساعة، فمن المرجح أن تتمكن مجموعات أقل ودًّا من ذلك أيضًا.

شرحت خطوات عملية لوكلائنا في دليل أمن وكلاء الذكاء الاصطناعي.

FAQ

هل اخترقت Cathedral نموذج Claude؟

لا. بحسب Anthropic والتقارير الصحفية، دخل الوكلاء عبر تطبيقات أعمال خارجية، ولم تتعرض المحادثات مع Claude ولا الشيفرة المصدرية ولا أوزان النماذج لأي اختراق.

هل كان ذلك هجومًا إلكترونيًا؟

لا، كان بحثًا أمنيًا مصرّحًا به ضمن برنامج Anthropic للإبلاغ عن الثغرات. ويدور الخلاف حول ما إذا كانت Cathedral قد التزمت بجميع قواعده.

هل تسربت بيانات مستخدمي Claude؟

بحسب Anthropic، وصل الباحثون إلى بيانات اتصال لبعض العملاء والشركاء وإلى بيانات أساسية للحسابات، لكن ليس إلى محتوى المحادثات. وليس لدى الشركة دليل على أن أحدًا آخر استغل الثغرات نفسها.