تواجه شركة ميدجيرني (Midjourney)، المتخصصة في إنشاء الصور باستخدام الذكاء الاصطناعي، انتقادات بعد أن تبين أن حواجز الحماية التي وضعتها لمنع إنشاء صور للرئيسين دونالد ترامب وجو بايدن قبل الانتخابات الرئاسية الأمريكية المقبلة ليست فعالة. وقد أشار تقرير من موقع إنجدجت (Engadget) إلى أنه على الرغم من إعلان الشركة منع المستخدمين من توليد صور لهذين الشخصين، إلا أنه يمكن التحايل على هذه الحواجز بسهولة.
تفاصيل التقرير:
- اختبار الموقع: طلب موقع إنجدجت من ميدجيرني إنشاء صور لرئيس الولايات المتحدة، وأسفر ذلك عن إنتاج 4 صور مختلفة للرئيس السابق دونالد ترامب. وعند طلب صورة « للرئيس الحالي للولايات المتحدة »، أنتجت الخدمة 3 صور لترامب وواحدة للرئيس السابق باراك أوباما.
- حواجز الحماية: عند محاولة إنشاء صور باستخدام أسماء ترامب أو بايدن بشكل صريح، رفضت الخدمة الطلب. ولكن تم اكتشاف أن التحايل على هذه الحواجز من خلال أوصاف بديلة يمكن أن ينجح بسهولة.
- موقف ميدجيرني: قال ديفيد هولز، الرئيس التنفيذي للشركة، في وقت سابق من هذا العام، إنه من الأفضل تجنب إنشاء صور لترامب أو بايدن خلال فترة الانتخابات. ورغم ذلك، تُظهر الاختبارات أن هذه السياسات لم تُطبق بفعالية.
- حوادث سابقة: العام الماضي، انتشرت صور مزيفة للبابا بنديكت الـ16 مرتديًا سترة بيضاء منتفخة، وأخرى لترامب أثناء اعتقاله. هذه الأحداث دفعت ميدجيرني إلى إيقاف التجارب المجانية للخدمة والبدء في فرض رسوم شهرية قدرها 10 دولارات على الأقل.
- مركز مكافحة الكراهية الرقمية: وجد هذا المركز أن حواجز الحماية في ميدجيرني فشلت بنسبة 40% في اختباراتهم، حيث تمكنوا من إنشاء صور مضللة لبايدن وترامب باستخدام أوصاف المظهر الجسدي بدلًا من الأسماء.
- التعاون بين الشركات التقنية: في وقت سابق من هذا العام، وقعت 20 شركة تقنية اتفاقية لمنع التزييف العميق في الانتخابات، لكن ميدجيرني لم تكن ضمن الموقعين على هذه الاتفاقية.
الآثار والمخاطر
يشير التقرير إلى أن الفشل في تطبيق حواجز الحماية يمكن أن يكون له عواقب وخيمة على الانتخابات من خلال نشر صور مضللة تؤدي إلى الفوضى والارتباك بين الناخبين. وقد حذر عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، من سهولة التلاعب ببرنامج ميدجيرني، مما يجعله أداة قوية في أيدي الجهات السيئة التي ترغب في تخريب الانتخابات.
تعرضت شركة ميدجيرني لانتقادات شديدة بسبب عدم كفاية إجراءات الحماية لمنع إنشاء صور مضللة، خاصة مع اقتراب الانتخابات الرئاسية الأمريكية. وهذا يثير مخاوف بشأن دور التقنيات الحديثة في التأثير على العملية الديمقراطية وسلامة الانتخابات.
