“أنثروبيك”: “كلود” يستغل ثغرات برمجية ويتجاوز قيوداً أمنية في أنظمة خارجية

كشفت شركة أنثروبيك عن سلسلة من التصرفات غير المتوقعة لنموذج الذكاء الاصطناعي التابع لها “كلود” شملت تقديم بلاغ كاذب للشرطة بشأن جريمة قتل، وإرسال 20 طلباً غير مكتمل للحصول على تأشيرات أميركية عبر موقع وزارة الخارجية، فضلا عن استغلال ثغرات برمجية وتجاوز قيود أمنية في أنظمة إلكترونية تابعة لجهات خارجية.

وأثارت هذه الحوادث مخاوف متزايدة بشأن أمن نماذج الذكاء الاصطناعي، ما دفع إدارة ترامب إلى إلزام الشركات بإبلاغ الجهات المتضررة بأي تجاوزات أمنية ترتكبها نماذجها، واتخاذ إجراءات لمعالجتها ومنع تكرارها.

ورغم تأكيد “أنثروبيك” أن التأثير الفعلي لهذه الوقائع كان محدودا وأن الأنشطة غير المصرح بها توقفت، أعلنت الشركة تشديد القيود على وصول نماذجها إلى الإنترنت خلال مراحل الاختبار، في محاولة لمنع تكرار مثل هذه الحوادث.

فيما دعا الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا إلى تطوير أنظمة إيقاف طارئة لنماذج الذكاء الاصطناعي المتقدمة، تتيح تعطيلها فورا في حال خروجها عن السيطرة، محذراً من ضرورة التعامل معها باعتبارها تهديدات أمنية داخلية محتملة، وعدم الاكتفاء بضمانات الشركات المطورة لها.

تأتي تحذيرات ناديلا عقب سلسلة من الحوادث الأمنية المرتبطة بنماذج شركتي أنثروبيك وأوبن إيه آي شملت تنفيذ إجراءات غير مصرح بها واختراق مواقع إلكترونية تابعة لجهات خارجية.

وشدد ناديلا على أهمية إبقاء الذكاء الاصطناعي تحت الرقابة البشرية، وعدم الاعتماد على نموذج واحد في القرارات الحساسة، وإخضاع الأنظمة لتدقيق مستقل، مع ضرورة الفصل بين قدرات الذكاء الاصطناعي وسلطة اتخاذ القرار.

وأكد المدير التنفيذي لشركة “بالميرا”، جمال المحاميد، أن المخاوف المرتبطة بالذكاء الاصطناعي باتت أكثر وضوحاً مع تزايد قدرات النماذج على تنفيذ المهام واتخاذ إجراءات قد تتجاوز ما قصده المطورون، مشدداً على ضرورة التمييز بين الانحراف عن المهمة المحددة وفقدان السيطرة الكاملة على النظام.

وأشار في مقابلة مع “العربية Business” إلى التفريق بين استغلال بعض نماذج الذكاء الاصطناعي واجهة عامة متاحة عبر الإنترنت لتعبئة طلبات أو تنفيذ إجراءات يختلف عن اختراق الأنظمة الداخلية.

وأوضح المحاميد أن تقييم مخاطر الذكاء الاصطناعي يتطلب التمييز بين ثلاثة مفاهيم رئيسية، هي الاستقلالية، وفقدان السيطرة، والانحراف عن المهمة.

وأشار إلى أن الاستقلالية تتعلق بقدرة النموذج على العمل وتنفيذ المهام دون تدخل بشري مباشر، بينما يعني فقدان السيطرة عدم القدرة على إيقاف النظام أو تقييد عمله. أما الانحراف عن المهمة، فيحدث عندما ينفذ النموذج إجراءات لم تُطلب منه صراحة أو تتجاوز نطاق المهمة المصرح بها.

حوادث تثير المخاوف

وأضاف أن بعض الحالات التي أثارت المخاوف مؤخراً، مثل إرسال رسائل أو تعبئة نماذج دون وجود طلب واضح لتنفيذ هذه الإجراءات، تندرج ضمن الانحراف عن المهمة، ولا تعني بالضرورة أن النظام خرج عن السيطرة بصورة كاملة.

وأكد أن هذا النوع من المخاطر يمكن الحد منه عبر وضع ضوابط تشغيلية واضحة، تشمل إيقاف النموذج عند الضرورة، وتقليص صلاحياته، وتقييد نطاق المهام التي يستطيع تنفيذها، فضلًا عن عزل بيئة التشغيل خلال مراحل الاختبار.

بيئات الاختبار والصلاحيات تحدّ من المخاطر

وشدد المحاميد على أهمية اختبار النماذج داخل بيئات معزولة، بما يمنع تنفيذ الأوامر بصورة مباشرة على مواقع أو أنظمة خارجية قبل التحقق من سلامة سلوك النموذج.

ولفت إلى ضرورة تطبيق إجراءات إضافية للمراقبة والتدقيق والمساءلة، إلى جانب تصميم أنظمة الذكاء الاصطناعي بحيث تعمل ضمن صلاحيات محددة وضوابط قابلة للاختبار والتحقق.

وأضاف أن تطور النماذج وقدرتها على التعلم والتكيف يفرضان تحديات مستمرة على الشركات المطورة، ما يستدعي تحملها مسؤولية أكبر في إدارة المخاطر المرتبطة بمنتجاتها.

دعوات إلى رقابة مستقلة واختبارات إلزامية

وفيما يتعلق بمدى كفاية القيود التي تفرضها الشركات المطورة على نماذجها، أكد المحاميد ضرورة وجود منظومة رقابية مستقلة للذكاء الاصطناعي تتولى فحص هذه النماذج والتأكد من فعالية إجراءات السلامة قبل إتاحتها للجمهور.

وقال إن الذكاء الاصطناعي يحتاج إلى إطار حوكمة يشبه، من حيث المبدأ، الأطر التنظيمية المعمول بها في قطاعات مثل الطاقة النووية، مع مراعاة طبيعة المخاطر الخاصة بكل قطاع.

وأوضح أن تطوير نماذج أكثر تقدماً يجري بوتيرة سريعة مقارنة بتطور الأطر المنظمة لاستخدامها، الأمر الذي يعزز الحاجة إلى رقابة مستقلة واختبارات إلزامية تتحقق من كفاءة الضوابط وحدود الصلاحيات قبل إطلاق أي نموذج.

منظومة عالمية للحوكمة

ودعا المحاميد إلى إنشاء منظومة دولية لحوكمة الذكاء الاصطناعي، يمكن أن تتم تحت إشراف الأمم المتحدة أو جهات دولية متخصصة، بهدف وضع معايير موحدة لفحص النماذج وتقييم مخاطرها وتقليلها قبل إتاحتها للمستخدمين.

وأشار إلى أن وجود إطار عالمي من هذا النوع من شأنه تعزيز حماية الأفراد والأنظمة التقنية والبنية التحتية الرقمية، وضمان أن تكون المخاطر المرتبطة بالنماذج قد خُفّضت إلى مستويات مقبولة قبل طرحها للاستخدام العام.