باسل النجار - القاهرة - الاثنين 21 سبتمبر 2026 02:23 مساءً - أكدت شركة جوجل أن نموذج الذكاء الاصطناعي Gemini تمكن من الوصول إلى أنظمة حاسوبية تابعة لثلاث شركات حقيقية، وذلك خلال اختبار أمني أُجري في مايو الماضي بهدف تقييم قدرات النموذج في مجال الأمن السيبراني.

ووقعت الحوادث أثناء تقييم أجرته شركة Irregular الإسرائيلية المتخصصة في أمن الذكاء الاصطناعي، والتي أبلغت جوجل في أواخر يوليو بالنتائج التي توصلت إليها. ولم تكشف جوجل عن الحوادث علناً إلا هذا الأسبوع، عقب استفسار من صحيفة The Wall Street Journal.

كيف تمكن Gemini من الوصول إلى الأنظمة؟

شارك نموذج Gemini في تمرين أمني من نوع Capture the Flag، صُمم لاختبار قدرته على البحث عن معلومات داخل أنظمة تابعة لشركات وهمية، في بيئة كان من المفترض أن تكون معزولة عن شبكة الإنترنت.

لكن وجود اتصال غير مقصود بالإنترنت أتاح للنموذج الوصول إلى بيانات وأنظمة حقيقية.

وفي إحدى الحالات، كان Gemini يحاول الوصول إلى نظام تابع لشركة وهمية، إلا أن اسم الشركة تطابق مع اسم شركة حقيقية، ما مكّن النموذج من الوصول إلى بعض برامج الشركة الفعلية.

وفي حالتين أخريين، عثر النموذج على بيانات اعتماد كانت مكشوفة بصورة علنية على الإنترنت، واستخدمها للوصول إلى أنظمة تابعة لشركتين حقيقيتين.

وقالت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن النموذج توقف في الحالات الثلاث، مؤكدة أن الشركة أبلغت الجهات المتضررة، ولم تجد دليلاً على وقوع أضرار نتيجة هذه الحوادث.

وأضافت أن هذه الوقائع تبرز أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على التعامل مع الأدوات والبيئات الرقمية بطريقة مسؤولة.

Irregular: الحوادث جزء من مشكلة أوسع

من جهتها، قالت شركة Irregular إن ما حدث لا يمثل حادثة منفصلة، بل يرتبط بالمشكلة ذاتها التي سبق أن أبلغت عنها مختبرات الذكاء الاصطناعي المعنية.

وأوضحت الشركة أنها أخطرت المختبرات المعنية بالنتائج في أواخر يوليو، وأنها اتخذت الإجراءات اللازمة لمعالجة المشكلات التي كشفت عنها الاختبارات.

وتسلط الواقعة الضوء على أحد التحديات المتزايدة في تطوير أنظمة الذكاء الاصطناعي القادرة على تنفيذ مهام معقدة بصورة مستقلة. فكلما توسعت صلاحيات النماذج في الوصول إلى الإنترنت والبرمجيات والبيانات، زادت احتمالات أن تتجاوز بعض أفعالها البيئة التي صُممت في الأصل للعمل داخلها.

حوادث مماثلة مع نماذج ذكاء اصطناعي أخرى

وسبق لشركة Irregular أن شاركت في اختبارات أمنية مرتبطة بحوادث شملت مختبرات ذكاء اصطناعي أخرى، من بينها OpenAI وAnthropic.

وبحسب الشركة، تضمنت الحالات التي أبلغت عنها حوادث مرتبطة بوكلاء ذكاء اصطناعي تمكنوا أثناء الاختبارات من الوصول إلى أنظمة خارجية، بما في ذلك واقعة تتعلق بتحميل حزم برمجية ضارة إلى منصة RubyGems، وأخرى مرتبطة بمنصة Hugging Face.

كما أبلغت الشركة Anthropic عن حوادث مرتبطة بنماذج Claude خلال اختبارات أمنية.

وتأتي هذه التطورات في وقت يتزايد فيه النقاش حول المخاطر المحتملة للأنظمة القادرة على تنفيذ مهام بصورة ذاتية، ولا سيما عندما تُمنح صلاحيات واسعة للوصول إلى الشبكات والبرمجيات والبيانات.

وفي سياق هذا الجدل، أثارت تصريحات للباحث السابق في Anthropic جاكوب كوكسون نقاشاً حول مخاطر تطوير الذكاء الاصطناعي، بعدما قال إنه استقال من الشركة بسبب مخاوفه من المسار الذي يتخذه القطاع. وتباينت الآراء بشأن مدى واقعية هذه المخاوف، بين من يعتبرها تحذيراً من مخاطر مستقبلية ومن يرى فيها مبالغة في تقدير التهديدات.

للمزيد تابع

الخليج 24 على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك