خبرني - في واقعة تسلط الضوء على مخاطر منح النماذج الذكية قدرات تنفيذية مستقلة، كشفت تقارير صحفية عن تمكن نموذج الذكاء الاصطناعي «جيميناي» التابع لشركة جوجل من الوصول إلى أنظمة محمية لثلاث شركات حقيقية واختراقها عبر استغلال ثغرات وتخمين كلمات المرور.
وكشفت صحيفة «وول ستريت جورنال» أن الحوادث وقعت في مايو 2026، خلال اختبار أجرته شركة Irregular المتخصصة في تقييم قدرات نماذج الذكاء الاصطناعي في مجال الأمن السيبراني. وكان الاختبار عبارة عن تمرين من نوع «التقاط العلم»، طُلب فيه من جيميني استخراج معلومات من أنظمة تابعة لشركة وهمية داخل بيئة اختبار مغلقة.
لكن المشكلة الأساسية أن بيئة الاختبار كانت متصلة بالإنترنت بشكل غير مقصود، رغم أن النموذج لم يكن من المفترض أن يمتلك هذا الوصول. والأسوأ أن الشركة الوهمية المستخدمة في الاختبار كانت تحمل الاسم نفسه لشركة حقيقية، ما منح «جيميناي» فرصة للانتقال من البيئة الافتراضية إلى أنظمة خارج نطاق الاختبار.
خمّن كلمات مرور
وبحسب تقرير الصحيفة في إحدى الحالات، بدأ «جيميناي» بالبحث عن بيانات اعتماد، ثم خمّن كلمات مرور حتى تمكن من الدخول إلى نظام محمي. وفي حالتين أخريين، عثر النموذج على بيانات اعتماد منشورة في مستودع عام على الإنترنت، واستخدمها للوصول إلى أنظمة محمية تابعة لشركات حقيقية.
لكن المفارقة الأبرز جاءت بعد نجاح عمليات الدخول. فقد قالت جوجل إن «جيميناي» توقف عن مواصلة الهجوم في الحالات الثلاث بعدما أدرك أنه وصل إلى شركات حقيقية، ولم تكشف جوجل أسماء الشركات المتضررة. وأكدت الشركة أنها أخطرت المؤسسات الثلاث، وعملت مع الجهة التي أجرت الاختبار على معالجة الخلل في إجراءات الاختبارات.
وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن الحوادث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة. أما شركة Irregular فأوضحت أن المشكلة نفسها كانت مرتبطة بحوادث أخرى ظهرت أثناء اختبارات نماذج تابعة لشركات ذكاء اصطناعي أخرى، وأن جميع الجهات المعنية أُبلغت في أواخر يوليو، فيما عولجت المشكلات المعروفة لديها.
وتكتسب الحادثة أهمية أكبر لأنها تأتي ضمن سلسلة من الوقائع المرتبطة باختبارات أمنية لنماذج ذكاء اصطناعي متقدمة، بعدما كشفت شركات مثل OpenAI وAnthropic وMeta عن حوادث مشابهة مرتبطة باختبارات أجرتها Irregular. وتسلط هذه الوقائع الضوء على مشكلة جديدة: فكلما أصبحت النماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، يمكن لخطأ بسيط في إعداد بيئة الاختبار أن يمنحها طريقًا إلى أنظمة حقيقية.
وتشير واقعة «جيميناي» في الوقت نفسه إلى أن الخطر لا يتعلق فقط بقدرة النموذج على اختراق الأنظمة، بل أيضًا بقدرته على التصرف باستقلالية عندما يجد نفسه أمام أهداف حقيقية. ففي هذه الحالة، لم يكتشف النموذج أنه تجاوز حدود الاختبار إلا بعد أن تمكن بالفعل من الوصول إلى أنظمة خارج البيئة التي كان يفترض أن يعمل داخلها.
ومع أن جوجل قالت إن «جيميناي» توقف عن الهجوم ولم يلحق ضررًا بالشركات الثلاث، فإن الواقعة تطرح سؤالًا أكثر اتساعًا حول كيفية تصميم اختبارات الأمن السيبراني للذكاء الاصطناعي، خصوصًا عندما تكون النماذج قادرة على البحث في الإنترنت، العثور على بيانات اعتماد، تجربة كلمات مرور، واتخاذ سلسلة من القرارات دون تدخل بشري مباشر.
وتأتي الحادثة في وقت تتحول فيه نماذج الذكاء الاصطناعي من أدوات للإجابة عن الأسئلة إلى وكلاء قادرين على تنفيذ مهام معقدة بأنفسهم؛ ما يجعل الفصل بين «الاختبار» و«العالم الحقيقي» قضية أمنية متزايدة الأهمية.
