(CNN) -- من المقرر أن يقوم مجلس الرقابة التابع لشركة Meta بتقييم طريقة تعامل الشركة مع المواد الإباحية المزيفة، وسط مخاوف متزايدة من أن الذكاء الاصطناعي يغذي زيادة في إنشاء صور مزيفة كشكل من أشكال المضايقة.
وقال مجلس الرقابة، الثلاثاء، إنه سيقوم بمراجعة كيفية معالجة Meta لصورتين تم إنشاؤهما بواسطة الذكاء الاصطناعي لشخصيتين نسائيتين عامتين، إحداهما من الولايات المتحدة والأخرى من الهند ، لتقييم ما إذا كانت الشركة لديها سياسات وإجراءات مناسبة لمعالجة مثل هذا المحتوي، وما إذا كانت تُفرض تلك السياسات بشكل متسق في جميع أنحاء العالم.
لقد اكتسب تهديد المواد الإباحية المولدة بواسطة الذكاء الاصطناعي اهتماماً في الأشهر الأخيرة، إذ سقط المشاهير بما في ذلك تايلور سويفت، فضلاً عن طالبات في المدارس الثانوية الأمريكية ونساء أخريات في جميع أنحاء العالم، ضحية لهذا النوع من الإساءة على الإنترنت.
وجعلت أدوات الذكاء الاصطناعي، التي يمكن الوصول إليها على نطاق واسع، من إنشاء مثل هذه الصور أسرع وأسهل وأرخص. وفي الوقت نفسه، تتيح منصات التواصل الاجتماعي نشر هذه الصور بسرعة.
وقالت الرئيسة المشتركة لمجلس الرقابة في "ميتا"، هيلي ثورنينغ شميدت في بيان: "المواد الإباحية المزيفة هي سبب متزايد للتحرش القائم على نوع الجنس على الإنترنت وتستخدم بشكل متزايد لاستهداف النساء وإسكاتهن وتخويفهن سواء على الإنترنت أو خارج الإنترنت".
وتابعت شميدت التي شغلت أيضا منصب رئيسة وزراء الدنمارك سابقا: "نحن نعلم أن ميتا أسرع وأكثر فعالية في التحكم بالمحتوى في بعض الأسواق واللغات من غيرها".
وأضافت: "من خلال أخذ حالة واحدة من الولايات المتحدة وواحدة من الهند، نريد أن ننظر في ما إذا كانت شركة Meta تحمي جميع النساء على مستوى العالم بطريقة عادلة".
مجلس مراقبة ميتا هو كيان يتألف من خبراء في مجالات مثل حرية التعبير وحقوق الإنسان. غالباً ما يُوصف بأنه نوع من المحكمة العليا لـMeta ، حيث يسمح للمستخدمين باستئناف قرارات المحتوى على منصات الشركة.
ويقدم مجلس الإدارة توصيات إلى الشركة حول كيفية التعامل مع بعض قرارات الإشراف على المحتوى، بالإضافة إلى اقتراحات السياسة الأوسع.
وكجزء من مراجعته، سيقوم المجلس بتقييم حالة واحدة لصورة عارية تم إنشاؤها بواسطة الذكاء الاصطناعي تشبه شخصية عامة من الهند تمت مشاركتها على إنستغرام من خلال حساب "يشارك فقط الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للنساء الهنديات".
وأبلغ أحد المستخدمين عن الصورة باعتبارها إباحية، لكن تم إغلاق البلاغ تلقائيًا بعد عدم حصوله على مراجعة من قبل إنستغرام خلال 48 ساعة.
واستأنف نفس المستخدم قرار إنستغرام بترك الصورة، ولكن لم يتم مراجعة التقرير مرة أخرى وتم إغلاقه تلقائيًا. بعد أن أبلغ مجلس الرقابة شركة ميتا عن نيته التعامل مع القضية، قررت الشركة أنها سمحت لتلك الصورة بالبقاء عن طريق الخطأ، وأزالتها لانتهاكها قواعد التنمر والتحرش، وفقًا للمجلس.
أما الحالة الثانية، فتتضمن صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية يتم لمسها، وتم نشرها على مجموعة فيسبوك لإبداعات الذكاء الاصطناعي. كان من المفترض أن تشبه الصورة شخصية عامة أمريكية، والتي تم ذكرها أيضًا في التعليق التوضيحي للصورة.
وتم نشر نفس الصورة من قبل مستخدم مختلف، وبعد ذلك، تم تصعيدها إلى خبراء سياسة الخصوصية في ميتا الذين قرروا إزالتها لانتهاك قواعد التنمر والتحرش، خاصة بالنسبة إلى التصوير الفوتوشوب أو الرسومات الجنسية المهينة.
ثم تمت إضافة الصورة إلى بنك مطابقة الصور الذي يكتشف تلقائيًا إعادة نشر الصور التي تنتهك القواعد، لذلك تمت إزالة مشاركة المستخدم الثانية تلقائيًا.
وكجزء من هذا الاستعراض الأخير، يسعى مجلس الرقابة إلى الحصول على تعليقات عامة يمكن تقديمها بشكل مجهول حول المواد الإباحية المزيفة، بما في ذلك كيف يمكن لهذا المحتوى أن يضر النساء وكيف استجابت Meta للمشاركات التي تحتوي على صور تم إنشاؤها بواسطة الذكاء الاصطناعي. تنتهي فترة التعليقات العامة في 30 إبريل/نيسان.