صور الضحايا الكنديين هي من بين آلاف صور الاعتداءات الجنسية على الأطفال التي عثرت عليها مجموعة مراقبة الإنترنت في قواعد البيانات المستخدمة “لتدريب” مولدات الصور المشهورة.
وقال لويد ريتشاردسون، مدير التكنولوجيا في المركز الكندي لحماية الطفل: “إنها صفعة أخرى على وجه الضحايا”.
وقال ريتشاردسون إن النتائج تظهر أن الذكاء الاصطناعي يحتاج إلى أخذه في الاعتبار من قبل الحكومة الفيدرالية أثناء إعداد مشروع قانون المحتوى الضار عبر الإنترنت الذي طال انتظاره.
وعمل مرصد ستانفورد مع المركز الكندي لحماية الطفل للتحقق من النتائج باستخدام أداة “مشروع العنكبوت” التابعة للمركز، والتي تحتوي على بنك من الصور المعروفة للاعتداءات الجنسية على الأطفال. ولم يحدد السيد ريتشاردسون عدد الضحايا الكنديين من بين آلاف الصور التي تم العثور عليها.
اكتسبت مولدات الصور التي تعتمد على الذكاء الاصطناعي (AI) شعبية بعد إطلاقها، لكنها أثارت مخاوف وجدالًا جديًا، بما في ذلك من قبل الفنانين الذين تم استخدام أعمالهم دون موافقتهم.
يستمد هؤلاء المولدون إلهامهم وتدريبهم من مليارات الصور الموجودة على الإنترنت. تستخدم المولدات الأكثر شهرة شبكة LAION.
وقال ديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت، إن LAION لا يحتوي فقط على صور لأعمال فنية وآثار وكلاب ساحرة لتشغيل مولدات الصور.
وهو يعترف بأن صور الاعتداء الجنسي على الأطفال لا تمثل سوى جزء صغير من 5.8 مليار صورة في شبكة LAION. لكنه يشير إلى أن هذه الصور لا تزال تؤثر على ما تنشئه مولدات الذكاء الاصطناعي. وقال الباحث إن هذا التدريب يمكن أن يساعد في إضفاء طابع جنسي على صورة الطفل أو حتى جعل صور معينة تشبه ضحية معروفة.
يعتقد السيد ثيل أن التأثيرات السلبية لا يمكن قياسها وقد بدأ الشعور بها بالفعل في جميع أنحاء العالم. وقد اتصل به أشخاص في العديد من البلدان قلقون بشأن الصور التي أنشأها الذكاء الاصطناعي للمراهقين والأطفال العراة.
أبلغت مدرسة في وينيبيج أولياء الأمور في وقت سابق من هذا الشهر أنه تمت مشاركة الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للطلاب القاصرين. تم تعديل ما لا يقل عن 17 صورة لطالبات تم التقاطها على وسائل التواصل الاجتماعي بشكل واضح باستخدام الذكاء الاصطناعي. وقال مسؤولو المدرسة إنهم اتصلوا بالشرطة.
يقول ثيل: “هذه قضية وثيقة الصلة”.
وقالت شبكة LAION في بيان لوكالة أسوشيتد برس هذا الأسبوع إنها أغلقت بنوك البيانات مؤقتًا لضمان أمنها قبل نشرها مرة أخرى.
لكن بالنسبة للسيد ثيل، فقد وقع الضرر، وقد فات الأوان الآن لإعادة معجون الأسنان إلى الأنبوب: فقد قام الأشخاص بالفعل بتنزيل مجموعات البيانات التي تحتوي على اعتداءات جنسية على الأطفال، وسيستمرون في استخدامها.
ويؤكد: “عليك حقًا أن تقوم بالأمر بشكل صحيح في المرة الأولى: لا يمكنك فقط تسويق المنتج وإصلاحه لاحقًا”. سيتعين علينا أن نواجه هذه المشكلة لسنوات لأن الناس اندفعوا إلى هذا السوق دون اتخاذ الاحتياطات اللازمة. »
يقول ثيل إنه كان ينبغي فحص مجموعات البيانات هذه قبل نشرها للعامة للكشف عن الاعتداء الجنسي على الأطفال، مضيفًا أن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي تبين أيضًا أنها عنصرية ومعادية للنساء.
يعتقد السيد ريتشاردسون من المركز الكندي لحماية الطفل أن معالجة القضايا المتعلقة بالذكاء الاصطناعي ليست مسؤولية الصناعة فحسب، بل تقع أيضًا على عاتق الدول.
وعد رئيس الوزراء جاستن ترودو بتقديم مشروع قانون بشأن المحتوى الضار عبر الإنترنت خلال الحملة الانتخابية الفيدرالية لعام 2019. ويهدف هذا القانون إلى مكافحة خطاب الكراهية والدعاية الإرهابية والتعليقات التي تحرض على العنف والاستغلال الجنسي للأطفال.
لكن في العام الماضي، أعادت الحكومة مسودة مشروع القانون إلى لوحة الرسم، بعد أن واجهت انتقادات، لا سيما فيما يتعلق بتأثيره على حرية التعبير على الإنترنت.
أصدرت اللجنة التي أعادت صياغة مشروع القانون مؤخرًا رسالة مفتوحة تقول إن الأطفال الكنديين يتمتعون حاليًا بحماية أقل من أولئك الموجودين في البلدان التي توجد بها قوانين مماثلة بالفعل.
وقال ريتشاردسون إن هناك بالتأكيد خطوات يمكن أن تتخذها أوتاوا. وقال: “هناك فكرة مفادها أن الإنترنت شيء بعيد كل البعد عن واقع قانون الولاية، وهو أمر سخيف”. أنا مقتنع بأن هناك أشياء يمكننا القيام بها في هذا المجال. »
