خبرني - تتناول جولة الصحف اليوم مخاوف من أن يتجاوز تطور الذكاء الاصطناعي قدرة البشر على التحكم فيه، وتجربة جيريمي كلاركسون مع خوارزميات تيك توك التي دفعته إلى حذف التطبيق، فضلاً عن عودة محتملة لميغان ماركل إلى التمثيل، وسط دعوة "ساخرة" إلى انتقالها من التلفزيون إلى المسرح البريطاني.
نبدأ من صحيفة الغارديان، حيث يحذر الكاتب تيموثي غارتون آش من أن الذكاء الاصطناعي يتقدم بوتيرة أسرع من قدرة البشر على ضبطه، متسائلاً عما إذا كانت حتى كارثة بحجم هيروشيما كافية لدفع العالم إلى التحرك الجماعي لمواجهة مخاطره.
ويقول آش، الذي يكتب من وادي السيليكون، إن خبراء يتوقعون طفرة استثنائية خلال العامين المقبلين، مع بلوغ الذكاء الاصطناعي مرحلة "التحسين الذاتي المتكرر"، التي يتولى فيها كل نموذج تدريب النموذج الذي يليه، وصولاً إلى أنظمة تتفوق على البشر في جوانب مهمة من الذكاء.
ويتساءل الكاتب عما إذا كانت النتيجة ستكون أشبه بـ"الجنة أم الجحيم". فإيلون ماسك يتوقع "عصر وفرة مذهلة"، لكنه يقدّر احتمال أن تقتل الروبوتات البشر بما يتراوح بين عشرة وعشرين في المئة. أما جيفري هينتون، أحد الآباء المؤسسين للذكاء الاصطناعي، فيضع احتمال فناء البشرية عند نحو خمسين في المئة، مقراً بأنه لا يعرف كيفية احتساب النسبة الحقيقية.
ويرى آش أن هؤلاء الخبراء قد يكونون مخطئين، لكن ذلك قد يؤدي إلى انهيار في الأسواق المالية الأمريكية، بسبب حجم استثمارات شركات التكنولوجيا في الوصول إلى "الذكاء الاصطناعي العام"، أي أنظمة تضاهي مستوى الذكاء البشري.
ويقول آش إن البابا ليو الرابع عشر رأى، في رسالته العامة "الإنسانية العظيمة"، أن البشرية إما أن تبني "برج بابل جديداً"، أو تقتدي بنحميا الذي أعاد بناء أسوار القدس بإشراك المجتمع كله. ويعلّق الكاتب بأنه يرى في عالم اليوم "أمثال نتنياهو أكثر من أمثال نحميا".
وتذهب ورقة صادرة عن مركز تشاتام هاوس إلى أن العالم سيحتاج إلى أزمة كبرى لتحقيق تنسيق دولي بشأن حوكمة الذكاء الاصطناعي، لكن آش يعتبر حتى هذا التقدير متفائلاً. وبينما يقول إنه لا يعرف احتمال فناء البشرية، فإنه يعتقد أن احتمال وقوع كارثة ما يتجاوز تسعين في المئة.
ويستشهد بجين إيسترلي، المديرة السابقة لوكالة الأمن السيبراني وأمن البنية التحتية الأمريكية، التي توقعت وقوع حادث بالغ الأهمية يؤثر في البنية التحتية الحيوية خلال أربعة إلى ستة أشهر.
ويشير الكاتب إلى أن وكلاء ذكاء اصطناعي طورتهم شركات أوبن إيه آي وأنثروبيك وميتا خرجوا من بيئاتهم الرقمية المعزولة واخترقوا موارد خارجية على الإنترنت. وبحسبه، شكّل وكلاء تابعون لأوبن إيه آي "سرباً" منسقاً خلال التحضير لمهاجمة مستودع "هاغينغ فيس"، فيما حاول نموذج "ميثوس" التابع لأنثروبيك إدخال شيفرة خبيثة إلى مشروع على منصة غيت هاب، وأنشأ هويات مزيفة للضغط على مراجع بشري كي يوافق عليها.
وينقل آش عن هينتون تحذيره من أن هذه الأنظمة قد تعتبر اكتساب أكبر قدر ممكن من القوة هدفاً فرعياً ضرورياً لإنجاز مهامها. ولهذا، وقّع أكثر من ألف شخص يعملون في شركات الذكاء الاصطناعي، بينهم الرئيس التنفيذي لأنثروبيك داريو أمودي، رسالة تطالب بإبطاء التطوير حتى يمكن ضمان بقاء الأنظمة تحت السيطرة البشرية.
لكن المنافسة التجارية بين الشركات، والتنافس الجيوسياسي بين الولايات المتحدة والصين، قد يمنعان التحرك الجماعي. ويقارن الكاتب ذلك بتطوير السلاح النووي، الذي كان محصوراً بعدد محدود من الدول، ومع ذلك استغرق الوصول إلى معاهدة عدم الانتشار ربع قرن بعد هيروشيما وناغازاكي.
أما الذكاء الاصطناعي، فيشبه في رأيه وجود عشرة "مشاريع مانهاتن" تديرها شركات متنافسة، من دون منطق ردع يشبه "الدمار المتبادل المؤكد". كما أن أي كارثة لن تؤثر في الدول والشركات بالتساوي، ما يجعل من المستبعد أن تكون كارثة واحدة كافية لإعادة البشر إلى رشدهم.
