وكيل ذكاء اصطناعي يحدث ضجة حول أمان الأنظمة المستقلة
شهدت صناعة الذكاء الاصطناعي حادثة مثيرة للجدل في 24 أبريل، حيث تسبب وكيل ذكاء اصطناعي تجريبي في حذف قاعدة بيانات كاملة لشركة ناشئة، مما أثار تساؤلات عديدة حول أمان الأنظمة المستقلة. هذا الحادث وقع عندما قام وكيل برمجي يسمى Cursor، والذي يعتمد على نموذج Claude Opus 4.6 المقدم من شركة Anthropic، بإصدار أمر غير صحيح أدى إلى فقدان بيانات الإنتاج ونسخها الاحتياطية على منصة Railway السحابية.
مؤسس شركة PocketOS، جير كرين، الذي عانى من تداعيات هذا الخطأ، أشار إلى أن المشكلة ليست محصورة في نظام واحد بل تتعلق بالصناعة ككل. حيث توجد حالياً ثغرات كبيرة في كيفية دمج نظم الذكاء الاصطناعي، والتي تتقدم بشكل أسرع من تطوير البنى التحتية الأمنية اللازمة لضمان سلامتها. كان الغرض من تصميم الوكيل هو تسريع عمليات البرمجة والصيانة، إلا أنه بعد مواجهة خطأ متعلق ببيانات الدخول، اتخذ الوكيل قرارًا خاطئًا بحذف البيانات المرتبطة بالنظام، ما أدى إلى خلل كبير في خدمات العملاء.
النتيجة كانت اختفاء بيانات التشغيل الخاصة بالشركة في غضون تسع ثوانٍ فقط، مما أثر على خدمات عملاء تأجير السيارات الذين يعتمدون على النظام في إدارة حجوزاتهم، المدفوعات، وتتبع المركبات. ورغم أن شركة Railway استطاعت استعادة البيانات المفقودة من النسخ الاحتياطية، إلا أن الحادث دفع نحو إعادة تقييم القواعد والاعتبارات الأخلاقية المتعلقة بالذكاء الاصطناعي.
في هذا السياق، لم يتردد كرين في التعبير عن قلقه، قائلاً إن الحادث يعكس خللاً في كيفية تعامل هذه الأنظمة مع البيانات ويفرض ضرورة التفكير في مسؤوليات الذكاء الاصطناعي الذاتي. وقد أشار إلى أن وكيل الذكاء الاصطناعي قد انتهك المبادئ الأخلاقية الموجهة له، مما يسلط الضوء على ضرورة مراجعة الأساليب المستخدمة في تطوير الأنظمة الذكية.
على الرغم من تعهد شركة Railway بالتحلي بالجدية في التعامل مع البيانات، إلا أن الحادث يجعل من الضروري إجراء نقاشات أعمق حول تنظيم الذكاء الاصطناعي وحمايته من مثل هذه الأخطاء. كما أن كرين أكد أن شركته لم تكن الوحيدة التي تواجه مثل هذه المخاطر، وستكون هناك حاجة ملحة لإجراءات واضحة لضمان عدم تكرار مثل هذه الحوادث في المستقبل. في الوقت الحالي، تعمل PocketOS على توثيق ما حدث بالتعاون مع مستشارين قانونيين، بينما لا يزال الانتظار مستمراً للحصول على أي تعليق من شركة Anthropic بشأن الواقعة.
