أُزيلت مجموعة بيانات الذكاء الاصطناعي المستخدمة على نطاق واسع لتدريب نماذج الانتشار المستقر والتصوير وغيرها من نماذج مولدات الصور بالذكاء الاصطناعي من قبل مُنشئها بعد أن وجدت دراسةٌ أنَّها تحتوي على آلاف الحالات من مواد الاستغلال الجنسي المشتبه به للأطفال.
مع العلم بأنَّ (LAION)، المعروفة أيضاً باسم الشبكة المفتوحة للذكاء الاصطناعي واسعة النطاق (Large-scale Artificial Intelligence Open Network)، منظمةٌ ألمانية غير ربحية تصنع نماذج الذكاء الاصطناعي مفتوحة المصدر ومجموعات البيانات المستخدمة لتدريب العديد من النماذج الشائعة لتحويل النص إلى صور.
ذكر تقريرٌ صادر في 20 ديسمبر عن باحثين في مركز السياسة السيبرانية التابع لمرصد ستانفورد للإنترنت أنَّهم حددوا 3226 حالة مشتبه فيها من مواد الاستغلال الجنسي للأطفال (CSAM) في مجموعة بيانات (LAION-5B)، حيث "تم تأكيد الكثير منها على أنَّها مواد استغلال جنسي للأطفال من قبل أطراف ثالثة"، وفقاً لمهندس البيانات الضخمة وكبير التقنيين في مركز ستانفورد للسياسة السيبرانية، ديفيد ثيل.
كما أشار ثيل إلى أنه بالرغم من أنَّ وجود مواد الاستغلال الجنسي للأطفال لا يعني بالضرورة أنَّه سيؤثر "بشكل كبير" على مخرجات النماذج المدرَّبة على مجموعة البيانات، فإنَّه ما يزال من الممكن أن يكون له بعض التأثير.
إذ قال ثيل: "في حين أنَّ كمية مواد الاستغلال الجنسي للأطفال الموجودة لا تشير بالضرورة إلى أنَّ وجود الاستغلال الجنسي للأطفال يؤثر بشكل كبير على مخرجات النموذج بما يتجاوز قدرة النموذج على الجمع بين مفاهيم النشاط الجنسي والأطفال، فمن المحتمل أنَّه ما يزال يمارس التأثير".
كما أضاف أنَّ "وجود حالات متطابقة متكررة من الاستغلال الجنسي للأطفال يمثل مشكلة أيضاً، لا سيَّما بسبب تعزيزه لصور ضحايا محدَّدين".
مقالات ذات صلة: مجموعة المعايير والتكنولوجيا الأمريكية تطلب مدخلات عامة حول تطوير الذكاء الاصطناعي
أُصدرت مجموعة بيانات (LAION-5B) في مارس 2022، وتتضمَّن 5.85 مليار زوج من النصوص والصور، وفقاً لـ (LAION).
LAION has a zero tolerance policy for illegal content. We work with organizations like IWF and others to validate links in the LAION datasets with filtering tools developed by our community and partner organizations to ensure they are safe. https://t.co/SStsqukbFK
— LAION (@laion_ai) December 20, 2023
ومن جهتها، قالت ليون في بيان إنَّها أزالت مجموعات البيانات من باب "الوفرة في الحذر"، بما في ذلك مجموعتي (LAION-5B) و(LAION-400M)، "لضمان سلامتهما قبل إعادة نشرهما".
مقالات ذات صلة: المحكمة العُليا في المملكة المتحدة ترفض إعطاء براءات اختراع لاثنين من الاختراعات التي طوّرها الذكاء الاصطناعي
Translated by Albayan Gherra
ترجمة البيان غره