يعمل عدد من الخبراء الأمريكيين المتخصصين في تطوير تقنيات الذكاء الاصطناعي على ابتكار أنظمة حماية طارئة لمواجهة احتمالات خروج الخوارزميات المتقدمة عن السيطرة، بالاعتماد على أدوات ذكاء اصطناعي أخرى لرصد السلوك غير الطبيعي والتدخل عند الضرورة.

وأفادت بوابة «أكسيوس» الأمريكية بأن قضايا أمن الذكاء الاصطناعي عادت إلى الواجهة مجددًا، بعد إعلان الباحث في شركة أنثروبيك، جيكوب كوكسون، مغادرته مجال تطوير الخوارزميات، محذرًا من تسارع سباق شركات التكنولوجيا نحو ما وصفه بـ«نقطة اللاعودة»، واحتمال الوصول إلى سيناريوهات كارثية بحلول نهاية عام 2027.

وأشار كوكسون إلى أن شركات مثل أوبن إيه آي و«أنثروبيك» تتجه نحو تطوير أنظمة ذكاء اصطناعي فائقة القدرة، قادرة على تحسين ذاتها بوتيرة أسرع من قدرة فرق السلامة على احتواء مخاطرها.

وفي السياق ذاته، نقلت البوابة عن باحث آخر في «أنثروبيك» إيفان هيوبينغر، تقديره بأن احتمال وقوع مخاطر وجودية قد تصل إلى أكثر من 10% خلال العقد المقبل، في ظل تسارع التطوير غير المسبوق لهذه التقنيات.

وتشير التقارير إلى أن التعامل مع هذه الأنظمة لا يمكن أن يتم عبر إيقاف خادم واحد فقط، نظرًا لتوزع عملها على شبكات وأجهزة متعددة، ما يدفع الشركات إلى تطوير أنظمة حماية متعددة المستويات قادرة على رصد السلوك المشبوه، وإيقاف الوكلاء الذكيين، وقطع وصولهم إلى الموارد الحيوية.

وفي هذا الإطار، تعمل «أوبن إيه آي» على تطوير آليات «إيقاف طارئ» تعتمد على أنظمة مراقبة ذكية تنبه الموظفين فور رصد سلوك خطير، مع إمكانية إيقاف النظام خلال نحو 30 دقيقة في حال تأكد التهديد.

أما «أنثروبيك» فتتبع نهجًا يجمع بين الإشراف البشري والرقابة الخوارزمية، حيث تتولى الأنظمة رصد الأخطاء والسلوكيات غير الطبيعية وإبلاغ الفرق البشرية، رغم أن الاختبارات الأخيرة أظهرت أن هذه الأنظمة لا تزال قادرة على اكتشاف نحو 50% فقط من التهديدات.

وفي المقابل، اعتبر مسؤولون في وزارة الدفاع الأمريكية (البنتاغون) أن هذه المخاوف تعكس قلقًا طبيعيًا من التحولات التكنولوجية المتسارعة، بينما قلل الرئيس الأمريكي دونالد ترامب من احتمالات «ثورة الآلات»، مؤكدًا أنه في حال ظهور تهديدات حقيقية فسيكون هناك دائمًا «حلول بديلة».

للمزيد تابع

الخليج 24 على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك