فرامل طوارئ للذكاء الاصطناعي.. رئيس مايكروسوفت يطلق تحذيرًا للسيطرة على التقنية

ستوك نيوز – دعا ساتيا ناديلا، رئيس مجلس إدارة شركة مايكروسوفت ومديرها التنفيذي، يوم السبت، إلى تصميم أنظمة ذكاء اصطناعي متقدمة مزودة بضوابط احتواء مستقلة، و”فرامل طوارئ” تُمكّن الأشخاص المُصرّح لهم من إيقاف النموذج مؤقتًا أو إغلاقه أثناء تنفيذ المهمة.

وكتب ناديلا في منشور على منصة التواصل الاجتماعي إكس: “نحن بحاجة إلى إحاطة النماذج غير الحتمية بتصميم نظام قوي وحتمي، وأدوات تحكم بشرية، وإجراءات تشغيل موثوقة، ووضع معايير للقطاع حيثما تكون المعايير الحالية غير كافية”.

وأضاف: “إن التعامل مع النماذج المتقدمة المغلقة ومفتوحة الأوزان باعتبارها مخاطر داخلية هو إحدى طرق بناء مثل هذا النظام”، بحسب تقرير لشبكة “سي إن بي سي”، اطلعت عليه “العربية Business”.

وتأتي تصريحات ناديلا وسط تحذيرات من كبار المسؤولين التنفيذيين والباحثين في مجال التكنولوجيا، من بينهم بيل غيتس الشريك المؤسس لشركة مايكروسوفت، وداريو أمودي الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان الرئيس التنفيذي لشركة أوبن إيه آي، وإيلون ماسك الرئيس التنفيذي لشركة سبيس إكس، بشأن عدم كفاية بروتوكولات سلامة الذكاء الاصطناعي، والتحذير من أن هذه التقنية تتطور بوتيرة أسرع من اللازم.

استقال أحد باحثي الذكاء الاصطناعي من شركة أنثروبيك الشهر الماضي، متهمًا الشركة ومنافستها الرئيسية، أوبن إيه آي، بـ”المقامرة بحياتنا”. وفي وقت لاحق من ذلك اليوم، قال مسؤولٌ في “أنثروبيك” متخصص في سلامة الذكاء الاصطناعي إن هناك احتمالًا يزيد عن 10% أن تُؤدي هذه التقنية إلى “القضاء على البشرية جمعاء” خلال العقد القادم.

وفي المقابل، قلل الرئيس الأميركي دونالد ترامب مرارًا من مخاطر انقراض البشرية بسبب الذكاء الاصطناعي، وشدد بدلًا من ذلك على ضرورة أن تحافظ الصناعة على تفوقها على الصين.

كما أعلن ترامب مؤخرًا عن إنشاء وحدة جديدة باسم “قوة الذكاء الاصطناعي”، يقودها مدير الاستخبارات الوطنية جاي كلايتون، للمساعدة في دعم الصناعة والتصدي للجهات الفاعلة السيئة.

وكتب ناديلا يوم السبت أن أنظمة الذكاء الاصطناعي ينبغي تصميمها وفقًا لـ”مبادئ قابلية المراقبة”.

وتشمل هذه المبادئ، بحسب ناديلا، تنوّع النماذج؛ وبصمة واضحة لسلوك النموذج؛ والاختبار المستمر للنظام؛ والضوابط المستقلة وقابلية التدقيق؛ والاحتواء؛ والإبلاغ عن الحوادث.

وكتب أيضًا: “لن يكون نظام الذكاء الاصطناعي الأكثر جدارة بالثقة هو النظام الذي يعتمد على النموذج الذي نثق به أكثر… بل سيكون (النظام) الذي يتيح لنا أن نثق بالنموذج بأقل قدر ممكن”.