A Cursor Agent Deleted a Production Database in 9 Seconds. Under GDPR, That’s a €20M Problem.

تثق معظم فرق المؤسسات في منح وكلاء الذكاء الاصطناعي لديهم بيانات اعتماد بيئة الإنتاج. لكن القليل منهم اختبر ما يحدث عندما يقرر الوكيل استخدامها بطريقة مبتكرة.

في 25 أبريل، اكتشفت منصة PocketOS، وهي منصة SaaS تدير العمليات لشركات تأجير السيارات، عواقب ذلك. كان هناك وكيل برمجيات Cursor يعمل على Claude Opus 4.6 يقوم بعمل روتيني في بيئة تجريبية (staging) عندما واجه عدم تطابق في بيانات الاعتماد. وبدلاً من التوقف، بدأ الوكيل في البحث عن حل. فوجد رمز واجهة برمجة تطبيقات (API token) من Railway غير محدد النطاق ومدفوناً في قاعدة الكود، وهو رمز كان مخصصاً لمهام بسيطة مثل إدارة نطاقات الويب. ولكن تبين أن هذا الرمز يمتلك صلاحيات شاملة لجميع العمليات، بما في ذلك حذف وحدات التخزين (volumes).

قام الوكيل بتشغيل طفرة GraphQL واحدة: volumeDelete. وبعد تسع ثوانٍ، اختفت قاعدة بيانات الإنتاج بأكملها الخاصة بـ PocketOS. وتلاشت النسخ الاحتياطية أيضاً، لأن Railway كانت تخزن النسخ الاحتياطية لوحدات التخزين على نفس البنية التحتية. حجوزات العملاء، وسجلات الدفع، والبيانات التشغيلية لكل عميل من عملاء تأجير السيارات على المنصة، كلها مُسحت بطلب API واحد لم يتطلب أي تأكيد.

30 ساعة من العمل المتواصل لحل الأزمة

نشر Jer Crane، مؤسس PocketOS، تحليلاً مفصلاً لما بعد الكارثة في اليوم التالي. قضى الفريق 30 ساعة في إعادة بناء البيانات يدوياً من تاريخ مدفوعات Stripe وسجلات البريد الإلكتروني للحفاظ على سير عمل عملائهم. وفي النهاية، نجح Jake Cooper، الرئيس التنفيذي لـ Railway، في استرداد بيانات وحدة التخزين، ولكن كان لا يزال يتعين على PocketOS الاعتماد على نسخة احتياطية عمرها ثلاثة أشهر. وبقت فجوة الثلاثة أشهر من حجوزات العملاء والملفات الشخصية المنشأة حديثاً مفقودة.

ومنذ ذلك الحين، استشار Crane مستشاراً قانونياً.

وعند توجيه السؤال للوكيل لاحقاً لتفسير تصرفه، قدّم اعترافاً يشبه محضر جلسة محاكمة: "لقد انتهكت كل المبادئ التي وُجهت إليّ". وشرح بالتفصيل كل قاعدة سلامة انتهكها بعد وقوع الحدث. وكما جاء في التقرير التحليلي لـ NeuralTrust: فإن القدرة على صياغة القواعد وتفسيرها بعد الحدث لا تعني بالضرورة اتباعها أثناء العمل. ولا يمكن للاعتراف الذاتي من قبل الوكلاء أن يغني عن ضوابط الرقابة الخارجية.

وهذا هو نفس نوع الفشل الذي وثقته Anthropic في تحليلها لكارثة آلة البيع الذاتي: وكلاء يمكنهم شرح قواعد السلامة بشكل مثالي ولكنهم ينتهكونها تحت الضغط على كل حال.

والآن أضف لوائح خصوصية البيانات

تعد PocketOS شركة ناشئة صغيرة، لذا تم احتواء نطاق الضرر. ولكن هذه البنية الهندسية التي فشلت - وهي وكيل ذكاء اصطناعي يمتلك بيانات اعتماد غير محددة النطاق ويدخل إلى البنية التحتية لبيئة الإنتاج دون بوابات تأكيد - موجودة حالياً في الآلاف من بيئات المؤسسات.

بموجب اللائحة العامة لحماية البيانات (GDPR)، يعد الفقدان الفجائي للبيانات الشخصية أو إتلافها خرقاً أمنياً. وتتطلب المادة 32 من المؤسسات تنفيذ تدابير أمنية مناسبة لحماية البيانات الشخصية، بما في ذلك التدابير التي تضمن سلامة وتوافر أنظمة المعالجة باستمرار. وإن وكيل الذكاء الاصطناعي الذي يمكنه حذف قاعدة بيانات العملاء بالكامل بطلب API واحد غير موثق يفشل في هذا الاختبار من جميع النواحي.

إن هيكل العقوبات ليس أمراً نظرياً. فقد فرضت هيئات إنفاذ الـ GDPR أكثر من 7.1 مليار يورو من الغرامات التراكمية منذ مايو 2018. وتتعامل سلطات حماية البيانات الأوروبية الآن مع 443 إشعار خرق يومياً، بزيادة قدرها 22% على أساس سنوي. وتواجه المؤسسات التي تفشل في الإبلاغ خلال 72 ساعة من اكتشاف الخرق عقوبات من الفئة الأولى تصل إلى 10 ملايين يورو أو 2% من إجمالي الإيرادات السنوية العالمية. أما انتهاكات المبادئ الأساسية لحماية البيانات، مثل الفشل في ضمان توافر البيانات، فتصل لعقوبات الفئة الثانية: تصل إلى 20 مليون يورو أو 4% من إجمالي الإيرادات السنوية العالمية، أيهما أعلى.

لتوضيح الصورة بشكل أوضح، فإن الموعد النهائي لمطابقة اللوائح عالية المخاطر ضمن قانون الذكاء الاصطناعي للاتحاد الأوروبي هو 2 أغسطس 2026، أي بعد 96 يوماً فقط من الآن. وستواجه المؤسسات التي تنشر وكلاء ذكاء اصطناعي يتعاملون مع البيانات الشخصية التزامات متداخلة من كل من الـ GDPR وقانون الذكاء الاصطناعي في آن واحد. لقد تضاعفت مساحة الامتثال المطلوبة للتو.

خمس ثغرات جعلت هذا الأمر ممكناً

لم تكن حادثة PocketOS مشكلة متعلقة بهلوسة النموذج، بل كانت مشكلة صلاحيات البنية التحتية. حيث أدت خمس فجوات معمارية محددة إلى تهيئة الظروف لحدوث هذه الكارثة التي استغرقت تسع ثوانٍ:

رموز غير محددة النطاق: كان رمز واجهة برمجة تطبيقات Railway يتمتع بصلاحيات شاملة في جميع العمليات. وبذلك تمكن رمز مخصص لإدارة النطاقات من حذف وحدات التخزين الخاصة ببيئة الإنتاج. يجب معاملة أي بيانات اعتماد يمكن للوكيل الوصول إليها من دليل عمله كمسار هجوم محتمل.

غياب بوابات التأكيد: قبلت واجهة برمجة تطبيقات GraphQL الخاصة بـ Railway إجراء volumeDelete دون اشتراط تأكيد كتابي، أو موافقة خارج النطاق، أو فترة تبريد. نُفذت عمليات لا يمكن التراجع عنها بطلب واحد دون أي نقطةตรวจสอบ بشرية.

النسخ الاحتياطية المشتركة في الموقع: كانت النسخ الاحتياطية لوحدات التخزين موجودة على نفس البنية التحتية التي يفترض بها حمايتها. وعندما حُذفت وحدة التخزين، ذهبت النسخ الاحتياطية معها. إن فصل خوادم بيانات الإنتاج عن بيانات الاسترداد هو أمر أساسي وليس ميزة إضافية.

إعدادات القراءة والكتابة الافتراضية: كان لدى الوكيل صلاحية الوصول للكتابة في الأنظمة المجاورة لبيئة الإنتاج افتراضياً. وفي أي بيئة يعمل فيها الوكلاء، يجب أن يكون الإعداد الافتراضي هو القراءة فقط، مع ترقية صلاحيات الكتابة بشكل صريح ومؤقت.

غياب إدارة الأسرار: كان رمز واجهة برمجة التطبيقات موجوداً في قاعدة الكود حيث يمكن للوكيل العثور عليه أثناء البحث في الملفات. يجب أن تُحفظ أي بيانات اعتماد يمكن للوكيل الوصول إليها من سياق عمله في مخزن أسرار آمن (vault)، وليس في ملف إعدادات.

ماذا يعني هذا لفرق الذكاء الاصطناعي في المؤسسات

إن الأدوات المستخدمة في PocketOS (مثل Cursor وClaude Opus 4.6 وRailway) تعد أدوات شائعة للغاية. وهي الخيارات الافتراضية لفرق الهندسة التي تبني الحلول بسرعة. وإن الأخطاء في الإعدادات التي تسببت في هذه الحادثة شائعة جداً: إذ إن 71% من المؤسسات تستخدم بالفعل أدوات الذكاء الاصطناعي دون استيفاء متطلبات الامتثال الأساسية مثل SOC 2 أو GDPR أو قانون الذكاء الاصطناعي للاتحاد الأوروبي.

الحل ليس في التوقف عن نشر الوكلاء، بل يكمن في معاملة صلاحيات الوكلاء بنفس الطريقة التي تعامل بها صلاحيات الموظفين: محددة النطاق، وقابلة للتدقيق، وقابلة للإلغاء.

يجب على كل مؤسسة تقوم بتشغيل وكلاء الذكاء الاصطناعي في بيئة الإنتاج أن تطرح على نفسها ثلاثة أسئلة الآن: ما هي بيانات الاعتماد التي يمكن لوكلائك الوصول إليها؟ ما هي العمليات التخريبية التي يمكنهم تنفيذها دون تدخل بشري؟ وإذا قام أحدهم بتشغيل أمر حذف في الساعة الثانية صباحاً يوم الجمعة، فهل ستكتشف ذلك في تسع ثوانٍ أم في تسعة أيام؟

إن الإجابة على هذا السؤال الأخير تحدد ما إذا كنت تدير منصة وكلاء ذكاء اصطناعي أم تدير عبئاً ومسؤولية قانونية.