جهات رقابة مصرفية عالمية تكثف التدقيق بشأن الذكاء الاصطناعي عقب سلسلة حوادث
- ستوك نيوز – مصادر: جهات تنظيمية أميركية تسأل عن إجراءات الحماية الخاصة بالذكاء الاصطناعي القائم على الوكلاء
- المخاوف تتزايد بين المشرفين في أعقاب سلسلة حوادث وقعت مؤخرا
قال ستة أشخاص مطلعين إن الجهات التنظيمية للخدمات المصرفية تكثف جهودها لاحتواء المخاطر المتزايدة المرتبطة بالذكاء الاصطناعي، إذ أشار بعضهم إلى احتمال وقوع هجمات إلكترونية على البنوك أو قيام وكلاء مارقين بتقويض الاستقرار المالي العالمي.
وأضافت المصادر أن الرقابة التنظيمية، التي يتم الكشف عن تفاصيل جديدة عنها هنا لأول مرة، تعكس تنامي الإدراك بأن التقدم في مجال الذكاء الاصطناعي المتطور قد يتطلب استثمارات باهظة في مجال التعافي من الهجمات السيبرانية، ومزيدا من الاهتمام بالاعتماد على مزودي التكنولوجيا الخارجيين، وفي بعض الولايات القضائية توجيهات تنظيمية أكثر رسمية.
وقال اثنان من هؤلاء الأشخاص لرويترز إن ثلاث هيئات تنظيمية كبرى في الولايات المتحدة، بما في ذلك مجلس الاحتياطي الاتحادي (البنك المركزي الأميركي)، تسأل البنوك بشأن استخدامها لنماذج الذكاء الاصطناعي المتقدمة، وهو ما يضاف إلى الرقابة السابقة.
وذكر ثلاثة منهم أن الأسئلة تشمل ما إذا كانت البنوك تستخدم تكنولوجيا مطورة في الصين، وتستخدم وكلاء الذكاء الاصطناعي في الدفاع الإلكتروني، وما إذا كانت قادرة على التحكم في الأنظمة التي تزداد استقلالية.
وقال ثلاثة أشخاص على دراية بنهج التفكير في أوروبا إن الجهات الرقابية في أوروبا، بما في ذلك بنك إنجلترا والبنك المركزي الأوروبي، تضغط على البنوك لتحسين خطط التعافي، خوفا من أن يؤدي التقدم السريع في مجال الذكاء الاصطناعي إلى إلحاق ضرر جسيم واضطراب في الأسواق المالية في وقت أقرب مما كان يُخشى سابقا.
وأوضح مسؤول تنفيذي رفيع المستوى في أحد البنوك الأوروبية الكبرى أنهم قلقون أيضا من احتمال وقوع أضرار جسيمة في الأسواق المصرفية والمالية خلال ستة أشهر.
واشتد الجدل حول الرقابة على الذكاء الاصطناعي وسط تحذيرات من القطاع في أعقاب الحوادث الأخيرة، إذ ذكرت رويترز أن جيمي ديمون الرئيس التنفيذي لجيه.بي مورغان حث قادة الشركات على الانضمام إلى مجموعة صناعية تركز على الولايات المتحدة لمعالجة مخاطر الذكاء الاصطناعي.
وقالت شركة كراود سترايك الأمريكية للأمن السيبراني هذا الشهر إن شخصا في الصين على الأرجح استخدم وكيلا للذكاء الاصطناعي مطورا في الصين وأداة كلود كود التابعة لشركة أنثروبيك في هجوم إلكتروني على بنوك كورية جنوبية.
وذكرت رويترز أن وكلاء ذكاء اصطناعي مارقين طورتهم أوبن إيه.آي شاركوا في اختراق لمنصة الذكاء الاصطناعي هاجينج فيس.
وحذر باحثون في أنثروبيك من أن أنظمة الذكاء الاصطناعي متزايدة القوة قد تفلت في نهاية المطاف من السيطرة البشرية، بل وقد تشكل تهديدا وجوديا، مما أثار دعوات إلى تشديد التنظيم.
وحذر صندوق النقد الدولي الثلاثاء من “التراخي” في الأسواق المالية العالمية، مشيرا إلى مخاطر مختلفة من بينها احتمال وقوع هجوم إلكتروني. وقال الصندوق إن هجوما كبيرا يؤثر على خدمة حيوية أو مؤسسة مالية قد يقوض الثقة، ودعا صناع السياسات إلى تعزيز القدرات في مجال الأمن السيبراني.
وتتنافس البنوك على تبني الذكاء الاصطناعي القائم على الوكلاء، القادر على إنجاز المهام بأقل قدر من الإشراف البشري، بينما تتعامل أيضا مع تحديات النماذج الجديدة، بما في ذلك نقاط الضعف في تكنولوجيا المعلومات التي رصدتها أداة ميثوس التابعة لأنثروبيك.
وقال مايكل وودبريدغ الشريك المتخصص في الأمن السيبراني لدى غرانت ثورنتون ومقره لندن “غالبا ما يسبق تبني الذكاء الاصطناعي القدرة على وضع الضوابط اللازمة”.
مخاوف أميركية بشأن الذكاء الاصطناعي القائم على الوكلاء
تتركز استفسارات الجهات التنظيمية الأميركية على كيفية استخدام البنوك للذكاء الاصطناعي القائم على الوكلاء في مجالات مثل الأمن السيبراني، مع التركيز على ما إذا كانت تستخدم وكلاء الذكاء الاصطناعي لتحديد التهديدات وترتيب أولوياتها والاستجابة لها.
وقال اثنان من هؤلاء الأشخاص إن أسئلة مكتب المراقب المالي للعملة والمؤسسة الاتحادية للتأمين على الودائع ومجلس الاحتياطي الاتحادي تركز على القيود المفروضة على الأنظمة، وكيفية مراقبة أفعالها والموافقة عليها، وما إذا كانت البنوك قادرة على تتبع قرارات وكلاء الذكاء الاصطناعي ومراجعتها بوضوح.
وأضافوا أن الجهات التنظيمية تسأل أيضا عن الضمانات القائمة لمنع الوكلاء من تجاوز صلاحياتهم، وما إذا كان البشر يظلون مشاركين في القرارات الرئيسية، وكيف يمكن للبنوك إيقاف الأنظمة المستقلة.
وامتنع مكتب المراقب المالي للعملة ومجلس الاحتياطي الاتحادي والمؤسسة الاتحادية للتأمين على الودائع عن التعليق.
وقال الأشخاص الثلاثة المطلعون على نهج تفكير الجهات التنظيمية إن هذه الجهات تستكشف عبر أسئلتها قضايا أكثر تحديدا مرتبطة بنماذج الذكاء الاصطناعي المتقدمة، منها استخدام وكلاء الذكاء الاصطناعي المستقلين والنماذج المطورة في الخارج ومخاطر إلكترونية جديدة.
وأضافوا أن الاستفسارات المكتوبة والشفهية الموجهة إلى البنوك الكبيرة والمتوسطة والصغيرة تظهر أن الجهات التنظيمية تركز على مواطن الضعف الناتجة عن استخدام البنوك للذكاء الاصطناعي ومدى استعدادها للتحرك.
وقالوا إن الجهات التنظيمية لا تزال تجمع المعلومات ولم تبدأ بعد في فرض تعليمات محددة بشأن ما ينبغي للمقرضين القيام به.
الأوروبيون قلقون بشأن التعافي
وقال اثنان من الأشخاص المطلعين على نهج تفكير الجهات التنظيمية إن المشرفين في بريطانيا يشجعون بشكل منفصل أكبر البنوك على دراسة ما يعرف بخطط التعافي من الأنظمة المجردة. وهذه الأنظمة مستقلة تماما عن البنية التكنولوجية الرئيسية للبنك ويمكن أن تبدأ العمل إذا تعرضت أنظمة التشغيل الأساسية للاختراق.
لكن هؤلاء الأشخاص قالوا إن إنشاء هذا النوع المتطور من أنظمة التعافي وصيانته مكلف.
وأضافوا أنه بدلا من استحداث متطلبات جديدة، تعتزم السلطات البريطانية العمل بصورة تعاونية مع القطاع. وامتنع بنك إنجلترا عن التعليق.
وأمهل البنك المركزي الأوروبي في تموز المقرضين حتى نهاية تشرين الأول لتقديم خطط لمواجهة التهديدات السيبرانية المدعومة بالذكاء الاصطناعي، تشمل تحسين النسخ الاحتياطية وعمليات التعافي.
وعندما سئل البنك المركزي الأوروبي عن استراتيجيته لتنظيم الذكاء الاصطناعي، أحال إلى رسالته الصادرة في تموز وإلى خطاب ألقاه عضو مجلس الإدارة فرانك إلدرسون في حزيران، شدد فيه على ضرورة خلق شعور بالإلحاح لا الذعر بشأن التهديدات.
واكتسبت الحاجة إلى تحرك رقابي مزيدا من الإلحاح بعد أن عبرت بنوك وجهات تنظيمية أوروبية عن إحباطها من محدودية الوصول إلى أداة ميثوس هذا العام، وسط مخاوف من أن البنوك الأميركية ستحصل على الأولوية في اختبار النماذج المتقدمة.
وقال شخصان إنه، مثل نظرائهم الأميركيين، يطلب المشرفون البريطانيون أيضا من البنوك استخدام الذكاء الاصطناعي المتطور لتحديد مواطن الضعف وتسريع معالجة الثغرات، مضيفا أحدهما أن المقرضين يؤدون عملا جيدا حتى الآن.
وقال الشخص الثالث إن بنوك منطقة اليورو مطالبة أيضا برسم خريطة لكيفية استخدام الذكاء الاصطناعي في مختلف أعمالها ولدى مقدمي الخدمات من الأطراف الثالثة، لفهم أوجه الاعتماد الرئيسية وضمان قدرتها على إيقاف الأنظمة وإعادة تشغيلها بصورة منظمة.
وأضاف أن فجوات كبيرة لا تزال قائمة لدى بعض الشركات.
وقال سوكاند راماشاندران، العضو المنتدب والشريك الأول لدى بي.سي.جي “للحماية من الهجمات، لا تقل سرعة التعافي أهمية عن الوقاية”.
وذكر راماشاندران لرويترز أنه من دون نسخ نظيفة وآمنة محفوظة بشكل منفصل من البيانات المهمة “قد يؤدي هجوم خطير إلى حرمان العملاء من الوصول إلى حساباتهم وتعطيل المدفوعات في أنحاء الاقتصاد الأوسع”.
رويترز
