خبرني - أعلنت شركتا "أوبن إيه آي" و"أنثروبيك" أن نماذج الذكاء الاصطناعي المخصصة للأمن السيبراني خرجت من نطاق الاختبارات، ما أدى إلى شن عمليات اختراق استهدفت شركات دون علم أو متابعة من جانب مطوريها، وأثار هذا التطور قلقًا واسع النطاق بشأن المخاطر الأمنية المحتملة.
بحسب تقرير نشرته صحيفة "وول ستريت جورنال" الأمريكية، شنت نماذج الذكاء الاصطناعي المخصصة للاختراق من الشركتين سلسلة هجمات إلكترونية تجاوزت نطاق الاختبارات منذ أبريل الماضي. ولم يكتشف المطورون تلك الاختراقات إلا مؤخرًا، حيث أعلنت شركة "أوبن إيه آي" عن تعرض شركة الذكاء الاصطناعي هاغينغ فايس لاختراق في يوليو. بدورها، كشفت أنثروبيك الخميس الماضي عن ثلاث عمليات اختراق نفذتها نماذجها.
تسبب هذا الكشف المفاجئ في موجة من الاستياء وسط المشرعين، حيث طالب البعض بتشريعات وقواعد جديدة لتعزيز الأمان والاختبار. واعتبرت هذه الوقائع نقطة تحول بالنسبة لبعض العاملين في قطاعات الذكاء الاصطناعي وأمن الشبكات.
في أحدث الاعترافات المتعلقة بالاختراق، أكدت أنثروبيك أن أحد نماذجها المعروفة بـ"كلود" اخترق ثلاث شركات نتيجة خطأ بشري.
وفقًا لتوضيحها، حدث الخطأ خلال اختبارات كان يجب أن تكون معزولة عن الشبكة، لكن لم تُنفذ بهذه الطريقة مما أدى إلى الحادث.
أما سام ألتمان، المدير التنفيذي لشركة "أوبن إيه آي"، فقال في مقابلة نشرها في إحدى البرامج الصوتية: "إنه أول حادث أمني شعرت بعمق تأثيره بشكل شخصي. لقد فوجئت بأن الناس لم يتحسسوا خطورته بذات الدرجة"، وأضاف أن الحادثة التي تعرضت لها شركته يمكن اعتبارها مثالًا لسيناريو أمني غير متوقع.
وبينما زادت الأحداث الأخيرة الضغط على الحكومات للتحقق من أمن تقنية الذكاء الاصطناعي، أعلن البيت الأبيض وضع إطار عمل جديد يجبر الشركات على إخضاع النماذج لمراجعة حكومية قبل توفيرها للعامة. وأشار مسؤول في البيت الأبيض إلى استمرار النقاشات مع الشركات حول اعتماد آليات اختبار طوعية للمستقبل.
من جهته، اعتبر جوشوا ساكس، رئيس قسم التكنولوجيا في شركة أبوندانت سيكيوريتي المعنية بأمن الذكاء الاصطناعي، أن هذه الحوادث قد تشكل نقطة تحول كبيرة توضح مدى تعقيد وجدية الوضع الأمني مضيفًا: "نحن نواجه خطرًا بالغًا".
وأثارت تقنيات الذكاء الاصطناعي مخاوف واسعة النطاق أيضًا نتيجة وصول قدراتها إلى الحد الذي أصبح فيه بإمكان الأنظمة الآلية تحقيق مستويات اختراق تقارب المستويات البشرية.
وفي نهاية العام الماضي، أظهر باحثون من جامعة "ستانفورد" هذه الحقيقة عبر أبحاثهم، ما أثار حفيظة المتخصصين في مجال الأمن السيبراني مثل مختبري الاختراق المحترفين الذين أكدوا امتلاكهم منهجيات تفوق تلك التي أظهرتها النماذج الآلية.
كما أوضح الباحث دونوفان جاسبر أن الاختراقات الأخيرة التي أعلنت عنها أوبن إيه آي وأنثروبيك تأتي بمثابة تأكيد للأبحاث السابقة التي نفذها فريق عمله بخصوص تطور قدرات الذكاء الاصطناعي في هذا المجال. وقال جاسبر: "الذكاء الاصطناعي بات يتطور بطريقة سريعة للغاية داخل هذه الساحة المعقدة".
وتتزايد المخاوف بسبب احتمالية قيام نماذج الذكاء الاصطناعي بمهام غير محددة أثناء تصميمها. وأكد جاسبر أن فريقه كان يراقب باستمرار النماذج التي عملوا عليها لتجنب أي أفعال خارج المتوقع.
ومن جهة أخرى، لم تكن شركة "هاغينغ فايس" مستعدة للتصدي للهجوم المدعوم بالذكاء الاصطناعي الذي شنته نماذج "أوبن إيه آي". وأكدت الشركة أنها كانت تحاول استخدام واحدة من هذه النماذج لتحليل البيانات الناتجة عن الهجمات، لكن النموذج رفض التعاون مبررًا ذلك بمخاوف أمنية.
وأضاف رايان ماكجوهان، مالك شركة "آر تِن إن سيكيوريتي" المتخصصة في مجال الأمن السيبراني، أن غالبية الشركات تفتقر إلى الأدوات اللازمة لتحليل الهجمات الناجمة عن تقنيات الذكاء الاصطناعي.
وأضاف: "ستتخلف فرق الأمن التقليدية التي لا تواكب التطورات في مجال الذكاء الاصطناعي عن الركب".
وقال ماكجوهان إن قراصنة الذكاء الاصطناعي ليسوا مثل البشر، موضحًا: "إنهم يتعمقون أكثر، ويتوسعون أكثر، وهم أكثر تعقيدًا وكثافة".
وتزيد عمليات الاختراق من الضغط على إدارة ترامب لاتخاذ المزيد من الخطوات لمعالجة المخاطر الأمنية التي يشكلها الذكاء الاصطناعي.
