خبرني - أعلنت "ميتا" عن تحديثات جديدة تهدف إلى حماية المراهقين أثناء استخدامهم لتقنيات الذكاء الاصطناعي على منصاتها، من خلال رصد المحادثات التي قد تشير إلى إيذاء النفس أو خطر الانتحار.
وتتمثل الميزة الأساسية في قدرة النظام على إرسال إشعارات فورية إلى أولياء الأمور إذا أجرى مراهق، يستخدم حسابا مرتبطا بأدوات الرقابة الأبوية على إنستغرام، محادثة مع روبوت الدردشة الذكي للشركة تتضمن تلميحات عن رغبته في إيذاء نفسه.
وقد طورت "ميتا" هذا النظام بالتعاون مع خبراء وأولياء أمور، لرصد الإشارات اللفظية الدقيقة التي قد تدل على وجود خطر، حتى لو كانت غير مباشرة.
وأوضحت الشركة أن جميع المحادثات التي يعلمها النظام ستخضع لمراجعة يدوية، لكنها سترسل التنبيه للوالدين في الحالات غير الواضحة تحسبا، مع إقرارها بأن هذه السياسة قد تؤدي إلى بعض التنبيهات الخاطئة، إلا أنها تعتبر ذلك نقطة بداية مناسبة مع وعد بمواصلة تحسين الدقة.
وإلى جانب ذلك، تعمل "ميتا" على تطوير أداة إضافية تسمح بالتواصل المباشر مع خدمات الطوارئ، عند اكتشاف محادثة تشير إلى أن المستخدم معرض لخطر وشيك بإنهاء حياته، وهي ميزة تمتلكها الشركة بالفعل لرصد المنشورات على "فيسبوك" و"إنستغرام".
وكانت "ميتا" تراقب سابقا عمليات البحث المتكررة عن مصطلحات خطيرة على "إنستغرام"، لكن التحديث الجديد يوسع نطاق الرقابة ليشمل المحادثات مع الذكاء الاصطناعي عبر "إنستغرام" و"واتس آب"، في خطوة تهدف إلى تعزيز الاستجابة السريعة والحماية الفعالة للمراهقين في الفضاء الرقمي.
