تقوم دولتان بحظر تطبيق Grok عبر CSAM الذي تم إنشاؤه بواسطة الذكاء الاصطناعي

وقد منعت دولتان جروك التطبيق بعد أن تم استخدامه على نطاق واسع لإنشاء صور مزيفة شبه عارية للنساء والأطفال دون موافقتهم. وتجري دولة ثالثة حاليا تحقيقا.

وقد طلب ثلاثة من أعضاء مجلس الشيوخ الأمريكي من شركة Apple إزالة كليهما مؤقتًا X وGrok من متجر التطبيقات الأمريكي بسبب “إنشاء محتوى مقزز”، وما زلنا ننتظر رد الشركة…

CSAM التي تم إنشاؤها بواسطة الذكاء الاصطناعي بواسطة Grok

تتوفر أداة Grok AI كتطبيق مستقل ومن خلال تطبيق X. وهو متاح أيضًا من خلال علامة التبويب Grok على موقع X الإلكتروني.

كانت هناك أدلة وفيرة على قيام Grok بإنشاء صور مزيفة شبه عراة لأفراد حقيقيين دون رضاهم، والتقاط صورة بالملابس ثم إزالة الملابس رقميًا لاستبدالها بالبيكيني أو ملابس كاشفة أخرى. والأمر الأكثر إثارة للقلق هو أن بعض هذه التزييفات العميقة كانت لأطفال.

على الرغم من أن الصور العارية محظورة نظريًا بواسطة Grok، إلا أن بعض المستخدمين يستخدمون لغة سريعة للتغلب على هذا الأمر.

يوم الجمعة، طلب ثلاثة من أعضاء مجلس الشيوخ الأمريكي من شركة أبل قم بإزالة كلا التطبيقين مؤقتًا من متجر التطبيقات، مع ملاحظة أن الصور غير التوافقية تضمنت مواد اعتداء جنسي على الأطفال (CSAM).

كتب أعضاء مجلس الشيوخ رون وايدن، وإد ماركي، وبن راي لوجان رسالة مفتوحة إلى الرؤساء التنفيذيين لشركتي أبل وجوجل، يطلبون فيها من الشركتين سحب تطبيقات X وGrok “في انتظار إجراء تحقيق كامل” في “التوليد الجماعي للصور الجنسية غير التوافقية للنساء والأطفال”.

وتشير الرسالة إلى أن الرئيس التنفيذي السابق إيلون ماسك فشل في التصرف، وتتناقض مع عدم اتخاذ أي إجراء من جانب شركتي آبل وجوجل وإزالتهما السريعة لـ التطبيق آيس بلوك بناء على طلب البيت الأبيض. كان رد Musk الوحيد هو قصر إنشاء صور X على المشتركين المدفوعين، وهو ما يبدو الإجراء الأكثر تشاؤمًا، ولكن الميزة نفسها يمكن لأي شخص الوصول إليها من خلال علامة التبويب Grok على كل من موقع وتطبيق X.

دولتان تحظران تطبيق Grok

وكالة انباء تفيد التقارير بأن ماليزيا وإندونيسيا قامتا بحظر التطبيق داخل بلدانهما.

وقال المنظمون في البلدين الواقعين في جنوب شرق آسيا إن الضوابط الحالية لا تمنع إنشاء ونشر محتوى إباحي مزيف، لا سيما الذي يشمل النساء والقاصرين. منعت الحكومة الإندونيسية مؤقتًا الوصول إلى جروك يوم السبت، وتبعتها ماليزيا يوم الأحد.

هيئة تنظيم الإعلام في بريطانيا أوفكوم كما تم فتح تحقيق رسمي.

كانت هناك تقارير مثيرة للقلق العميق حول استخدام حساب Grok AI chatbot على X لإنشاء ومشاركة صور عارية للأشخاص – والتي قد ترقى إلى إساءة استخدام الصور الحميمة أو المواد الإباحية – والصور الجنسية للأطفال التي قد ترقى إلى مستوى مواد الاعتداء الجنسي على الأطفال (…) قررت Ofcom فتح تحقيق رسمي لتحديد ما إذا كان X قد فشل في الامتثال لالتزاماته القانونية بموجب قانون السلامة على الإنترنت.

ولم ترد أبل وجوجل بعد

حتى وقت كتابة هذا التقرير، لم يكن هناك أي رد عام من Apple أو Google، وتظل التطبيقات متاحة في متاجر التطبيقات الأمريكية الخاصة بهما. لقد تواصلنا مع Apple للتعليق وسنقوم بالتحديث بأي رد.

صورة: مياه ميلاني/أونسبلاش