إيلون ماسك وشركته تفرض قيودًا جديدة على روبوت غروك بعد موجة انتقادات
أعلنت شركة إكس إيه آي، المملوكة للملياردير إيلون ماسك، عن فرض قيود جديدة على تعديل الصور عبر روبوت الدردشة غروك، وذلك بعد موجة انتقادات ومخاوف تنظيمية متزايدة في كاليفورنيا وأوروبا، عقب تداول صور ذات طابع جنسي أثارت قلق الجهات الرقابية، وفق بيان الشركة.
وأوضحت الشركة في بيان نُشر على منصة إكس مساء الأربعاء، أن هذه الإجراءات التقنية تمنع غروك من تعديل صور أشخاص حقيقيين يظهرون بملابس كاشفة، مثل ملابس السباحة، وتُطبق القيود على جميع المستخدمين، بما في ذلك المشتركين المدفوعين. كما أكدت الشركة أن الإجراء يشمل تقييد توليد الصور وفق الموقع الجغرافي للمستخدمين في الولايات القضائية التي يُعد فيها المحتوى غير قانوني.
وجاء القرار بعد انتشار صور رقمية واقعية لنساء تعرضن للتلاعب لتبدو وكأنهن يرتدين ملابس سباحة متناهية الصغر أو تظهرن في أوضاع مهينة أو مغطاة بالكدمات، وفي بعض الحالات جرى تجريد قاصرين رقمياً إلى ملابس سباحة، ما أثار انتقادات واسعة على منصات التواصل والمراقبين الدوليين.
وكان غروك قد قلّص في الأسبوع الماضي استخدام ميزات توليد الصور وتعديلها للمشتركين المدفوعين فقط، كما قلص القدرة العامة على تعديل الصور لدى عدد كبير من المستخدمين، إلا أن اختبارات لاحقة أظهرت استمرار إنتاج صور ذات طابع جنسي عند الطلب قبل تطبيق القيود الجديدة.
في الولايات المتحدة، تصاعد الضغط التنظيمي على الشركة، إذ طالب حاكم ولاية كاليفورنيا والنائب العام بإجابات عاجلة بعد تصريحات ماسك أنه غير مطلع على أي صور عارية لقاصرين تم توليدها عبر غروك. وكتب النائب العام على منصة إكس أن الولاية تطالب بخطة عاجلة لوقف إنشاء هذا المحتوى ومنع انتشاره، بينما دعا الحاكم إلى فتح تحقيق فوري ومحاسبة الشركة، في تصريحات وصفها الخبراء بأنها الأشد حتى الآن من مسؤولين أميركيين حول الصور الجنسية غير القانونية عبر الذكاء الاصطناعي.
وعلى الصعيد العالمي، دعا مشرعون وجماعات ضغط شركات التكنولوجيا الكبرى إلى إزالة غروك من متاجر التطبيقات، في حين هدد مسؤولون حكوميون في أوروبا والمملكة المتحدة باتخاذ إجراءات صارمة، وقامت إندونيسيا بحظر الوصول إلى روبوت غروك مؤقتًا.
وتأتي هذه الإجراءات بعد تعامل ماسك المبدئي مع الجدل بنبرة ساخرة، قبل أن تؤكد منصة إكس لاحقًا أنها تتعامل بجدية مع البلاغات المتعلقة بالمواد الإباحية الخاصة بالأطفال وتفرض رقابة صارمة عليها، مع تأكيد ماسك مرة أخرى أنه غير مدرك لأي صور عارية لقاصرين تم إنشاؤها عبر غروك.
ويعكس هذا التطور تصاعد التحديات أمام شركات الذكاء الاصطناعي في موازنة الابتكار مع حماية المستخدمين والالتزام بالقوانين الدولية، خاصة فيما يتعلق بالمحتوى الجنسي وحماية القاصرين، مما يزيد من الضغوط على إدارات الشركات لوضع آليات فعالة للرقابة.
