توظيف الذكاء الإصطناعي لحماية الأطفال من المحتوى الرقمي الضار

دي زاد نيوز – وكالات

طور باحثون من جامعة “وورويك” البريطانية، نظام ذكاء اصطناعي لمراقبة المحتوى يحمل اسم “ريسبونسيبال” لحماية الأطفال من التعرض للمحتوى الضار على الإنترنت حتى لو كان قانونيًّا.

ويستطيع النظام أن يعالج كميات كبيرة جدًّا من اللغات والصور لتجميع قواميس من البيانات المتعلقة بالمحتوى الأكثر ضررًا للأطفال واليافعين، مثل: خطابات الكراهية، والتنمر الإلكتروني، والانتحار، والعنف، والتحرش.

وينصح الباحثون بزيادة مراقبة المحتوى الإلكتروني في ظل انتشار وسائل التواصل الاجتماعي بين الأطفال، ولكن الكميات الكبيرة من المحتوى تجعل المهمة صعبة.

وتجاوز الباحثون صعوبة المشكلة من خلال خوارزميات تعالج اللغات الطبيعية؛ ما يسمح لها بفهم المحتوى وقراءته مثل البشر، وفهم سياق التعليقات ومغزى الجمل والعلاقات الاجتماعية بين المستخدمين من الأعمار المتقاربة.

ويستطيع النظام الجديد أن يحل مقام المراقبة البشرية لكميات كبيرة جدًّا من المحتوى، وتحديد حالات الخطر الاجتماعي والسلوكيات المضرة بالأطفال المنتشرة على وسائل التواصل الاجتماعي.

“فهم التقنية بشكل أوسع”

وقالت الأستاذة الدكتورة شويتا سينغ، المشاركة في الدراسة: “يسمح القانون لشركات منصات التواصل الاجتماعي بتقييم أدائها بنفسها؛ ما يعطيها الفرصة لتجاوز التوصيات في صالح حماية حرية التعبير”.

وأضافت: “على صناع القرار فهم التقنية بشكل أوسع، نظرًا لأن الشركات لا تملك حافزًا لاستخدام خوارزميات الذكاء الاصطناعي الجديدة؛ ما يتطلب فرضها عليهم قانونيًّا”؛ وفقًا لموقع تك إكسبلور.

ونظرًا لإضافة نحو 350 مليون صورة يوميًّا على موقع “فيسبوك” وحده، فضلًا عن ملايين الفيديوهات والمشاركات النصية، مع وجود محتوى ضار بينها بنسبة كبيرة، فإن شركة “ميتا” المالكة لمنصة “فيسبوك” أسست فرقا كاملة لرصد المحتوى والتعامل مع الضار منه.

وقال هيمانشو نيغام، المسؤول الأمني السابق في موقع “ماي سبيس”: “تشير التقديرات إلى أن نحو 250 ألفًا إلى 350 ألف شخص يعملون مراقبين لوسائل التواصل الاجتماعي على الصعيد العالمي، ونحو مليون شخص يعملون في مجال أمن وخصوصية الإنترنت”.

وفي حين أطلقت شركة “ميتا” سابقًا سياسات قاسية لمراقبة المحتوى، فإن بعض الشركات أعلنت رفضها لتقنيات مراقبة المحتوى وأثرها السيئ على تقييد التعبير.

ويمكن للتقنية الجديدة أن تتفوق على الطرق السابقة بقدرتها على قراءة محتوى التواصل بدقة عالية، ومنع المحتوى الذي يؤثر على صحة الأطفال نفسيًّا واجتماعيًّا؛ ما يؤسس لأمان أكبر على منصات التواصل الاجتماعي.