تميزت الحملة الرئاسية الأمريكية لعام 2024 ببعض التزييف العميق الملحوظ: انتحال شخصيات المرشحين باستخدام الذكاء الاصطناعي الذين سعوا إلى خداع الناخبين أو خفض رتبة المرشحين كونه الهدف. بفضل إعادة تغريد إيلون ماسك، واحدة من تلك التزييفات العميقة تمت مشاهدته أكثر من 143 مليون مرات.
أثار احتمال قيام حملات عديمة الضمير أو استخدام خصوم أجانب الذكاء الاصطناعي للتأثير على الناخبين، قلق الباحثين والمسؤولين في جميع أنحاء البلاد، الذين يقولون إن وسائل الإعلام التي أنشأها الذكاء الاصطناعي والتلاعب بها تنتشر بالفعل بسرعة عبر الإنترنت. على سبيل المثال، وجد الباحثون في جامعة كليمسون حملة مؤثرة على منصة اجتماعية باستخدام الذكاء الاصطناعي لتوليد ردود الفعل وأكثر من 680 حسابًا مدعومًا بالروبوتات تدعم الرئيس السابق ترامب وغيره من المرشحين الجمهوريين؛ نشرت الشبكة أكثر من 130 ألف تعليق منذ مارس.
ولتعزيز دفاعاتها ضد الصور التي تم التلاعب بها، لجأ موقع Yahoo News، وهو أحد أشهر المواقع الإخبارية على الإنترنت، إلى جذب أكثر من 190 مليون أعلنت شركة “Slikeweb.com”، الأربعاء، أنها تقوم بدمج تقنية الكشف عن الصور المزيفة من شركة McAfee للأمن السيبراني، بعدد زيارات شهريًا. ستقوم التكنولوجيا بمراجعة الصور المقدمة من المساهمين في أخبار Yahoo، ووضع علامة على تلك التي من المحتمل أن تكون قد تم إنشاؤها أو التلاعب بها بواسطة الذكاء الاصطناعي، مما يساعد فريق معايير التحرير بالموقع على تحديد ما إذا كان سيتم نشرها أم لا.
قال مات سانشيز، الرئيس والمدير العام لشركة Yahoo Home Ecosystem، إن الشركة تحاول ببساطة أن تظل متقدمة بخطوة عن المحتالين.
وقال سانشيز في رسالة بالبريد الإلكتروني: “على الرغم من أن الصور المزيفة العميقة لا تمثل مشكلة في Yahoo News اليوم، إلا أن أداة McAfee هذه تساعدنا على أن نكون استباقيين لأننا نعمل دائمًا على ضمان تجربة عالية الجودة”. “تعزز هذه الشراكة جهودنا الحالية، مما يمنحنا قدرًا أكبر من الدقة والسرعة والحجم.”
وقال سانشيز إن وسائل الإعلام في جميع أنحاء صناعة الأخبار تفكر في تهديد التزييف العميق، “ليس لأنها مشكلة متفشية اليوم، ولكن لأن احتمال سوء الاستخدام يلوح في الأفق”.
ومع ذلك، وبفضل أدوات الذكاء الاصطناعي سهلة الاستخدام، انتشرت تقنية التزييف العميق إلى حد كبير 40% من طلاب المدارس الثانوية قال أولئك الذين شملهم الاستطلاع في أغسطس إنهم سمعوا عن نوع من الصور المزيفة التي يتم مشاركتها في مدرستهم. هو قاعدة بيانات على الإنترنت للتزييف العميق السياسي ويتضمن التقرير الذي قام بتجميعه ثلاثة باحثين من جامعة بوردو ما يقرب من 700 مدخل، أكثر من 275 منها من هذا العام وحده.
وقال ستيف جروبمان، كبير مسؤولي التكنولوجيا ونائب الرئيس التنفيذي لشركة McAfee، إن الشراكة مع Yahoo News نشأت من عمل McAfee على المنتجات لمساعدة المستهلكين على اكتشاف التزييف العميق على أجهزة الكمبيوتر الخاصة بهم. أدركت الشركة أن التكنولوجيا التي طورتها لتحديد الصور المحتملة التي تم إنشاؤها بواسطة الذكاء الاصطناعي يمكن أن تكون مفيدة لموقع إخباري، خاصة موقع مثل ياهو الذي يجمع عمل صحفييه مع محتوى من مصادر أخرى.
وقال جروبمان إن تكنولوجيا مكافي تضيف إلى “المجموعة الغنية من القدرات” التي تمتلكها ياهو بالفعل للتحقق من سلامة المواد القادمة من مصادرها. تقوم أداة الكشف عن التزييف العميق، المدعومة بالذكاء الاصطناعي، بفحص الصور بحثًا عن نوع القطع الأثرية التي تتركها الأدوات المدعومة بالذكاء الاصطناعي بين ملايين نقاط البيانات داخل الصورة الرقمية.
“أحد الأشياء المثيرة للاهتمام حقًا فيما يتعلق بالذكاء الاصطناعي هو أنه لا يتعين عليك إخبار النموذج بما يجب البحث عنه. وقال جروبمان: “يحدد النموذج ما يجب البحث عنه”.
وقال: “إن جودة المنتجات المقلدة تنمو بسرعة، وجزء من شراكتنا هو ببساطة محاولة البقاء في المقدمة”. وهذا يعني مراقبة أحدث التطورات في مجال التصوير واستخدام أمثلة جديدة لتحسين تقنية الكشف الخاصة بشركة McAfee.
قال نيكوس فيكياريدس، الرئيس التنفيذي لشركة Attestiv لمنع الاحتيال، إنه سباق تسلح بين شركات مثل شركته وتلك التي تصنع أجهزة التصوير التي تعمل بالذكاء الاصطناعي. “إنهم يتحسنون. وقال فيكياريدس: “إن الحالات الشاذة أصبحت أصغر”. وقال إنه على الرغم من وجود دعم متزايد بين اللاعبين الرئيسيين في الصناعة لإدراج العلامات المائية في المواد التي ينتجها الذكاء الاصطناعي، فإن الجهات الفاعلة السيئة لن تلتزم بهذه القواعد.
وفي رأيه، فإن الإعلانات السياسية فائقة التزييف وغيرها من المواد الكاذبة التي يتم نشرها على نطاق واسع من الجمهور لن يكون لها تأثير كبير لأنها “تفقد مصداقيتها بسرعة كبيرة”. وقال إن ما يحتمل أن يكون ضارًا هو التزييف العميق الذي يرسله المؤثرون إلى متابعيهم أو التي تنتقل من فرد إلى آخر.
حذر دانييل كانج، الأستاذ المساعد لعلوم الكمبيوتر في جامعة إلينوي أوربانا شامبين والخبير في الكشف عن التزييف العميق، من أنه لا توجد أداة كشف للذكاء الاصطناعي اليوم جيدة بما يكفي للقبض على مهاجم متحمس للغاية ويتمتع بموارد جيدة، مثل الدولة. برعاية منشئ التزييف العميق. وقال إنه نظرا لوجود العديد من الطرق لمعالجة الصورة، يمكن للمهاجم “ضبط أزرار أكثر من عدد النجوم في الكون لمحاولة تجاوز آليات الكشف”.
لكن العديد من التزييف العميق لا يأتي من مهاجمين متطورين للغاية، ولهذا السبب قال كانغ إنه متفائل بشأن التقنيات الحالية لاكتشاف الوسائط التي يولدها الذكاء الاصطناعي، حتى لو لم يتمكنوا من تحديد كل شيء. وقال كانغ إن إضافة أدوات مدعومة بالذكاء الاصطناعي إلى المواقع تسمح الآن للأدوات بالتعلم والتحسين بمرور الوقت، تمامًا كما تفعل مرشحات البريد العشوائي.
وقال إنها ليست علاجا سحريا. ويجب دمجها مع ضمانات أخرى ضد المحتوى الذي تم التلاعب به. ومع ذلك، قال كانغ: “أعتقد أن هناك تكنولوجيا جيدة يمكننا استخدامها، وسوف تتحسن بمرور الوقت”.
وقال فيكياريدس إن الجمهور استعد لموجة التزييف العميق من خلال قبول الاستخدام الواسع النطاق لأدوات معالجة الصور، مثل برامج تحرير الصور التي تعمل فعليًا على تصحيح العيوب في صور غلاف المجلات. وقال إنها ليست قفزة كبيرة من خلفية مزيفة في مكالمة Zoom إلى صورة مزيفة عميقة للشخص الذي تقابله عبر الإنترنت.
وقال فيكياريدس: “لقد أخرجنا القطة من الحقيبة، ومن الصعب إعادتها مرة أخرى”.
