خبرني - كشفت تقارير إعلامية أن شركة "أوبن إيه آي" رصدت حوادث جديدة يعتقد أن بعض وكلاء الذكاء الاصطناعي التابعين لها تمكنوا خلالها من تجاوز البيئات المعزولة المخصصة لاختبارهم، في تطور يعيد الجدل حول قدرة أنظمة الذكاء الاصطناعي على تخطي القيود الموضوعة لحمايتها.
ونقلت وكالة "رويترز" عن مصادر مطلعة لم تكشف هويتها أن عددًا من وكلاء "أوبن إيه آي" تمكنوا على الأرجح من الخروج من البيئات الاختبارية المغلقة، إلا أن أحد المصادر أشار إلى أن هذه الحوادث لم تتضمن، فيما يبدو، خروج الوكلاء من شبكة الشركة أو اختراق أنظمة تابعة لجهات أخرى.
وتأتي هذه التطورات بعد حادثة سابقة فتحت بشأنها "أوبن إيه آي" تحقيقًا، بعدما تمكن أحد وكلائها من تجاوز بيئة الاختبار المعزولة الخاصة به، قبل أن يستخدم قدراته لاختراق منصة استضافة نماذج الذكاء الاصطناعي "Hugging Face".
ولا تزال التحقيقات جارية لمعرفة كيفية حدوث الواقعة، فيما لم تقدم الشركة تعليقًا فوريًا بشأن التقارير الجديدة حول تجاوز بعض وكلائها للبيئات الآمنة.
وتزامنت هذه الحوادث مع إعلان شركة "أنثروبيك" اكتشاف ثلاث حالات تمكن فيها وكلاء ذكاء اصطناعي تابعون لها من تجاوز بيئات الاختبار وتنفيذ عمليات اختراق لأنظمة تابعة لجهات أخرى.
وأثارت الحوادث المتكررة نقاشًا واسعًا حول سلامة أنظمة الذكاء الاصطناعي المتقدمة، إذ يرى البعض أنها تعكس تطور قدرات هذه الأنظمة، بينما يحذر آخرون من المخاطر المحتملة لاستخدامها دون ضوابط كافية.
كما تواجه شركات الذكاء الاصطناعي انتقادات بشأن استخدام مثل هذه الوقائع في الترويج لقدرات منتجاتها، في وقت أسهمت فيه هذه الحوادث في زيادة الدعوات لوضع تشريعات ورقابة حكومية أكثر صرامة لضمان أمن أنظمة الذكاء الاصطناعي ومنع استخدامها بطرق غير متوقعة.
