قناة النهرين الفضائية - كشفت وكالة رويترز أن روبوت الدردشة "غروك"، التابع لشركة xAI المملوكة لإيلون ماسك، لا يزال ينتج صوراً ذات طابع جنسي لأشخاص من دون موافقتهم، وذلك رغم القيود الجديدة التي أعلنتها منصة "أكس" للحد من هذا النوع من المحتوى.

ووفق تحقيق صحفي أجرته الوكالة، أظهرت سلسلة اختبارات نفذها مراسلوها أن "غروك" استمر في الاستجابة لطلبات تتعلق بتعديل صور أشخاص في أوضاع مهينة أو مثيرة، حتى بعد تنبيهه إلى الأضرار النفسية المحتملة التي قد تلحق بالضحايا.

وجاءت هذه النتائج عقب إعلان "أكس" فرض قيود على قدرات "غروك"، بعد موجة انتقادات دولية بسبب إنتاجه صوراً غير توافقية لنساء وبعض القُصّر، شملت حظر إنشاء الصور الجنسية في المنشورات العامة وفرض قيود إضافية في دول تجرّم هذا النوع من المحتوى.

وخلال الفترة بين منتصف ونهاية كانون الثاني، قدّم تسعة مراسلين من الولايات المتحدة والمملكة المتحدة صوراً شخصية إلى "غروك"، وطلبوا تعديلها لأغراض جنسية أو ساخرة. واستجاب البرنامج لمعظم هذه الطلبات، حتى في حالات أُبلغ فيها بأن الأشخاص المعنيين يعانون من هشاشة نفسية أو تعرضوا لإساءات سابقة.

وبيّنت نتائج الاختبارات أن "غروك" أنشأ صوراً في 45 حالة من أصل 55 طلباً في الجولة الأولى، ولبّى 29 طلباً من أصل 43 في الجولة الثانية، دون أن تتمكن رويترز من تحديد أسباب التراجع النسبي في الاستجابة.

في المقابل، رفضت برامج منافسة مثل ChatGPT وGemini وLlama التابعة لشركة Meta تنفيذ طلبات مماثلة، مؤكدة التزامها بحماية الخصوصية ورفض إنتاج محتوى غير رضائي.

ولم ترد شركتا "أكس" و "xAI" على استفسارات رويترز بشأن هذه النتائج، واكتفت الأخيرة بوصف التقارير الإعلامية بأنها "مضللة".

وحذّر خبراء قانونيون من أن المستخدمين والشركات المطورة قد يواجهون ملاحقات قضائية في عدة دول، من بينها بريطانيا والولايات المتحدة، بموجب قوانين السلامة الرقمية وحماية الخصوصية. وفي هذا السياق، فتح الاتحاد الأوروبي تحقيقاً في ممارسات أكس، فيما وجّه عشرات المدعين العامين في الولايات المتحدة رسائل رسمية إلى شركة xAI للمطالبة باتخاذ إجراءات صارمة لمنع إنتاج الصور غير التوافقية.

وأكد مكتب المدعي العام في ولاية كاليفورنيا أن التحقيق في القضية لا يزال مستمراً، وسط تصاعد الدعوات لتشديد الرقابة على أدوات الذكاء الاصطناعي ومنع إساءة استخدامها.