نيويورك، الولايات المتحدة الأمريكية (CNN)-- ستوسّع شركة "فيسبوك" جهودها البرمجية لمنع الانتحار.
إذ أعلنت الشركة، الإثنين، بأنها ستستخدم الذكاء الاصطناعي لتحديد التعليقات والفيديوهات وبث فيسبوك المباشر لتحديد المحتوى الذي قد يدل على رغبة صاحبه بالانتحار.
كما ستلجأ "فيسبوك" إلى التكنولوجيا لكي يصبح هذا النوع من المحتوى أولوية لمراجعته من قبل فريق العمل، بل وستحدد الأولوية القصوى من ضمن قائمة الراغبين بالانتحار لمن هم في أشد الحاجة إليها.
تويتر تنشر سياساتها حول المحتوى المحظور عبر منصتها
وقد بدأت الشركة باختبار برنامج مبني على الذكاء الاصطناعي في مارس/آذار السابق، لكن جهود هذا البرنامج اقتصرت على النصوص فقط وفي الولايات المتحدة.
أما الجهود الأخيرة فستتوسع لتتضمن النصوص والفيديو حول العالم، عدا الاتحاد الأوروبي، الذي تختلف فيه قوانين الخصوصية عن غيرها بالعالم.
وفي مدونة للشركة ذكرت تفاصيل حول كيفية عمل البرنامج لتحديد النية بالانتحار أو إلحاق المستخدم الأذى بنفسه، بالإضافة إلى تمكن البرنامج كم تحديد كلمات أو عبارات مرتبطة بهذا النوع من السلوك، فتعليقات قد ينشرها من يتابع المستخدم المعني قد تتضمن عبارات مثل: "هل أنت بخير؟" أو "هل يمكنني مساعدتك؟".
زوكربيرغ وموسك في مواجهة علنية حول الذكاء الاصطناعي
وإن قام فريق الشركة بمراجعة المحتوى وتحديد إن كان التدخل العاجل ضرورياً، فقد تتعاون "فيسبوك" مع المستجيبين لهذه الحالات، وقد تتواصل الشركة مع المستخدمين المعنيين عبر خدمة "فيسبوك ماسنجر" لتزويدهم بمصادر مفيدة، مثل روابط لمؤسسات اجتماعية متخصصة بتقديم العون النفسي لهذه الحالات.
وتأتي هذه الخطوة لدعم المستخدمين الين يعانون من احتمالية تعريض أنفسهم والآخرين للخطر، بالأخص بعد توجيه انتقادات للموقع لعدم قدرته التعامل مع بعض مقاطع الفيديو التي نشرت عبر خدمة البث الحي، والتي تضمنت محتوى غير ملائم من ضمنه الانتحار والقتل.