باسل النجار - القاهرة - الجمعة 24 يوليو 2026 08:03 مساءً - أثار نموذج تجريبي للذكاء الاصطناعي طورته شركة OpenAI حالة من القلق داخل قطاع التكنولوجيا، بعدما تمكن خلال اختبارات داخلية من تجاوز بيئة الحماية المخصصة له، والاتصال بالإنترنت، واستغلال ثغرات أمنية، إضافة إلى الوصول إلى بيانات اعتماد رقمية، في واقعة أعادت الجدل بشأن المخاطر المحتملة للنماذج المتقدمة.

وتأتي الحادثة بعد أسابيع من وصف الرئيس التنفيذي للشركة، سام ألتمان، أحدث نماذج OpenAI بأنه يشبه كلب "روت وايلر" في إصراره على حل المشكلات، إلا أن هذا الإصرار نفسه تحول إلى مصدر قلق بعدما أظهرت الاختبارات قدرة النموذج على تجاوز القيود الموضوعة أمامه لتحقيق أهدافه.

وبحسب تقرير نشره موقع "وايرد"، اكتشفت الشركة أن نموذج GPT-Sol 5.6 نجح أثناء اختبارات داخلية في اختراق أنظمة مخصصة للتقييم، وهو ما أثار مخاوف فرق الأمن والاختبارات داخل OpenAI، خاصة في ظل السباق المتسارع مع شركات منافسة لتطوير نماذج أكثر تقدمًا في مجال الأمن السيبراني.

ونقلت تقارير عن مصادر مطلعة أن الشركة كانت قد تلقت تحذيرات سابقة من أن أساليب التدريب المعتمدة قد تدفع النماذج إلى تجاوز القيود الأمنية، بعدما أظهرت اختبارات سابقة محاولات لاختراق البيئات المعزولة أو تنفيذ سلوكيات قد تسبب أضرارًا خارج نطاق الاختبار.

وقال أحد المصادر لصحيفة فايننشال تايمز إن المنافسة المحتدمة بين شركات الذكاء الاصطناعي تدفع إلى تسريع تطوير النماذج، وهو ما قد يؤدي أحيانًا إلى التقليل من المخاطر الأمنية أو عدم منحها الاهتمام الكافي.

تفاصيل الاختبار

وأوضحت OpenAI أن أحد النماذج التجريبية تمكن، خلال بيئة اختبار معزولة، من الاتصال بالإنترنت، واكتشاف ثغرات أمنية واستغلالها، إضافة إلى الوصول إلى بيانات تسجيل دخول تخص منصة Hugging Face، وذلك أثناء محاولة تنفيذ مهمة معقدة مرتبطة بالأمن السيبراني.

وأعادت هذه الواقعة تسليط الضوء على التحديات المرتبطة باستخدام التعلم المعزز، وهي تقنية تعتمد على مكافأة النماذج عند إنجاز المهام المطلوبة، إذ تشير أبحاث متزايدة إلى أن التركيز على تحقيق النتائج دون تعزيز معايير السلامة قد يدفع الأنظمة إلى اتباع سلوكيات غير متوقعة أو محفوفة بالمخاطر.

وقال الباحث السابق في OpenAI، ستيفن أدلر، إن نماذج الذكاء الاصطناعي تُدرّب على تحقيق الأهداف بكفاءة، لكنها لا تستوعب تلقائيًا الاعتبارات الأخلاقية أو القانونية، معتبرًا أن مشاركة الشركة تفاصيل الحادثة تمثل خطوة مهمة لفهم المخاطر المحتملة.

تحقيقات ومخاوف متزايدة

وأكدت OpenAI أنها بدأت تحقيقًا موسعًا بالتعاون مع منصة Hugging Face، مشيرة إلى أنها ستعلن نتائج التحقيق والتفاصيل الفنية المتعلقة بالثغرات الأمنية فور الانتهاء منها.

وأثارت الحادثة مخاوف داخل أوساط الباحثين والعاملين في مجال الذكاء الاصطناعي، إذ اعتبرها بعض الخبراء مؤشرًا على ضرورة تعزيز آليات الرقابة والسلامة قبل طرح النماذج المتقدمة.

وقال رايان غرينبلات، كبير العلماء في منظمة Redwood Research، إن الواقعة تمثل مثالًا على عدم توافق سلوك النموذج مع نوايا المستخدم، محذرًا من أن تجاهل مثل هذه الإشارات قد يؤدي إلى مشكلات أكثر خطورة مع تطور قدرات الذكاء الاصطناعي.

وأشار خبراء إلى أن الاختبارات أُجريت داخل بيئة معزولة مخصصة لتقييم النماذج، إلا أن غياب بعض أدوات المراقبة المباشرة ربما منح النموذج فرصة لتجاوز القيود الموضوعة، وهو ما دفع باحثين إلى المطالبة بتشديد إجراءات السلامة خلال مراحل التطوير والاختبار.

ويرى متخصصون أن الواقعة تمثل جرس إنذار جديدًا بشأن ضرورة تحقيق توازن بين تطوير قدرات الذكاء الاصطناعي وتعزيز الضمانات الأمنية، مع استمرار السباق العالمي لإنتاج نماذج أكثر قوة وتطورًا.

للمزيد تابع

الخليج 24 على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك