وطن نيوز
4 فبراير – دعت منظمة الأمم المتحدة للطفولة (يونيسف) يوم الأربعاء الدول إلى تجريم إنشاء محتوى الاعتداء الجنسي على الأطفال الناتج عن الذكاء الاصطناعي، قائلة إنها تشعر بالقلق من التقارير التي تتحدث عن زيادة في عدد صور الذكاء الاصطناعي التي تصور الأطفال جنسيا.
كما حثت الوكالة المطورين على تنفيذ مناهج السلامة حسب التصميم وحواجز الحماية لمنع إساءة استخدام نماذج الذكاء الاصطناعي. وقالت إن الشركات الرقمية يجب أن تمنع تداول هذه الصور من خلال تعزيز الإشراف على المحتوى من خلال الاستثمار في تقنيات الكشف.
وقالت اليونيسف في بيان إن “الضرر الناجم عن إساءة استخدام التزييف العميق حقيقي وعاجل. ولا يمكن للأطفال الانتظار حتى يلحق القانون بالركب”. Deepfakes عبارة عن صور ومقاطع فيديو ومقاطع صوتية تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تنتحل شخصيات أشخاص حقيقيين بشكل مقنع.
كما أثارت اليونيسف مخاوف بشأن ما أسمته “تعري” الأطفال، باستخدام الذكاء الاصطناعي لتجريد الملابس أو تغييرها في الصور لإنشاء صور عارية أو جنسية ملفقة.
وكشف ما لا يقل عن 1.2 مليون طفل في 11 دولة عن التلاعب بصورهم وتحويلها إلى محتوى جنسي صريح في العام الماضي، وفقًا لليونيسيف.
قالت بريطانيا، اليوم السبت، إنها تخطط لجعل استخدام أدوات الذكاء الاصطناعي لإنشاء صور الاعتداء الجنسي على الأطفال أمرا غير قانوني، مما يجعلها أول دولة تفعل ذلك.
تزايدت المخاوف في السنوات الأخيرة بشأن استخدام الذكاء الاصطناعي لإنشاء محتوى يتعلق بإساءة معاملة الأطفال، وخاصة روبوتات الدردشة مثل Grok التابعة لشركة xAI – المملوكة لإيلون ماسك – والتي خضعت للتدقيق لإنتاج صور جنسية للنساء والقاصرين.
وجد تحقيق أجرته رويترز أن برنامج الدردشة الآلي استمر في إنتاج هذه الصور حتى عندما حذر المستخدمون صراحة من عدم موافقة الأشخاص.
قالت شركة xAI في 14 يناير إنها قيدت تحرير الصور لمستخدمي Grok AI ومنعت المستخدمين، بناءً على موقعهم، من إنشاء صور لأشخاص يرتدون ملابس كاشفة في “المناطق القضائية التي يكون فيها ذلك غير قانوني”. ولم تحدد الدول. لقد قصرت في وقت سابق استخدام ميزات إنشاء الصور وتحريرها في Grok على المشتركين الذين يدفعون فقط. رويترز
