تميزت الحملة الرئاسية الأمريكية لعام 2024 ببعض التزييفات العميقة البارزة – وهي انتحال شخصيات المرشحين المدعومة بالذكاء الاصطناعي والتي سعت إلى تضليل الناخبين أو إذلال المرشحين يجري استهدافها. بفضل إعادة تغريد إيلون ماسك، واحدة من تلك التزييفات العميقة تمت مشاهدته أكثر من 143 مليون مرات.
أثار احتمال قيام حملات عديمة الضمير أو استخدام خصوم أجانب الذكاء الاصطناعي للتأثير على الناخبين، قلق الباحثين والمسؤولين في جميع أنحاء البلاد، الذين يقولون إن وسائل الإعلام التي أنشأها الذكاء الاصطناعي والتي يتم التلاعب بها تنتشر بالفعل بسرعة عبر الإنترنت. على سبيل المثال، وجد الباحثون في جامعة كليمسون حملة مؤثرة على منصة اجتماعية باستخدام الذكاء الاصطناعي لتوليد التعليقات وأكثر من 680 حسابًا مدعومًا بالروبوتات تدعم الرئيس السابق ترامب وغيره من المرشحين الجمهوريين؛ نشرت الشبكة أكثر من 130 ألف تعليق منذ مارس.
ولتعزيز دفاعاتها ضد الصور التي تم التلاعب بها، قامت Yahoo News، وهي واحدة من أشهر مواقع الأخبار على الإنترنت، بجذب أكثر من 190 مليون زيارات شهريًا، وفقًا لموقع Sameweb.com – أعلنت يوم الأربعاء أنها تقوم بدمج تقنية الكشف عن الصور المزيفة من شركة الأمن السيبراني McAfee. ستقوم التكنولوجيا بتحليل الصور المقدمة من المساهمين في أخبار ياهو ووضع علامة على تلك التي من المحتمل أن تكون قد تم إنشاؤها أو التلاعب بها بواسطة الذكاء الاصطناعي، مما يساعد فريق معايير التحرير في الموقع على تحديد ما إذا كان سيتم نشرها أم لا.
وقال مات سانشيز، الرئيس والمدير العام لشركة Yahoo Home Ecosystem، إن الشركة تحاول فقط أن تظل متقدمة بخطوة عن الغشاشين.
وقال سانشيز في رسالة بالبريد الإلكتروني: “على الرغم من أن الصور المزيفة العميقة لا تمثل مشكلة في Yahoo News اليوم، إلا أن هذه الأداة من McAfee تساعدنا على أن نكون استباقيين لأننا نعمل دائمًا على ضمان تجربة عالية الجودة”. “تستفيد هذه الشراكة من جهودنا الحالية، مما يوفر لنا قدرًا أكبر من الدقة والسرعة والحجم.”
وقال سانشيز إن وسائل الإعلام في مجال صناعة الأخبار تفكر في تهديد التزييف العميق – “ليس لأنها مشكلة متفشية اليوم، ولكن لأن احتمال إساءة الاستخدام يلوح في الأفق”.
ومع ذلك، وبفضل أدوات الذكاء الاصطناعي سهلة الاستخدام، انتشرت تقنية التزييف العميق إلى حد كبير 40% من طلاب المدارس الثانوية قالوا في مقابلات في أغسطس/آب إنهم سمعوا عن نوع ما من الصور المزيفة التي تتم مشاركتها في مدرستهم. ال قاعدة بيانات على الإنترنت للتزييف العميق السياسي يتضمن هذا الكتاب، الذي قام بتجميعه ثلاثة باحثين من جامعة بوردو، ما يقرب من 700 مدخل، أكثر من 275 منها هذا العام وحده.
وقال ستيف جروبمان، كبير مسؤولي التكنولوجيا ونائب الرئيس التنفيذي لشركة McAfee، إن الشراكة مع Yahoo News نشأت من عمل McAfee على المنتجات لمساعدة المستهلكين على اكتشاف التزييف العميق على أجهزة الكمبيوتر الخاصة بهم. أدركت الشركة أن التكنولوجيا التي طورتها لتحديد الصور المحتملة التي تم إنشاؤها بواسطة الذكاء الاصطناعي يمكن أن تكون مفيدة لموقع إخباري، خاصة موقع مثل ياهو الذي يجمع عمل صحفييه مع محتوى من مصادر أخرى.
وقال جروبمان إن تكنولوجيا مكافي تضيف إلى “المجموعة الغنية من القدرات” التي تمتلكها ياهو بالفعل للتحقق من سلامة المواد القادمة من مصادرها. تقوم أداة الكشف عن التزييف العميق، المدعومة بالذكاء الاصطناعي، بفحص الصور بحثًا عن أنواع القطع الأثرية التي تتركها الأدوات المدعومة بالذكاء الاصطناعي بين ملايين نقاط البيانات في الصورة الرقمية.
“أحد الأشياء المثيرة للاهتمام حقًا فيما يتعلق بالذكاء الاصطناعي هو أنه لا يتعين عليك إخبار النموذج بما يجب البحث عنه. وقال جروبمان: “يحدد النموذج ما يجب البحث عنه”.
وقال: “إن جودة المنتجات المقلدة تنمو بسرعة، وجزء من شراكتنا يحاول فقط التغلب على ذلك”. وهذا يعني مراقبة أحدث التطورات في مجال التصوير واستخدام أمثلة جديدة لتحسين تقنية الكشف عن McAfee.
وقال نيكوس فيكياريدس، الرئيس التنفيذي لشركة مكافحة الاحتيال “أتيستيف”، إن هناك سباق تسلح بين شركات مثل شركته وتلك التي تصنع أجهزة التصوير التي تعمل بالذكاء الاصطناعي. “إنهم يتحسنون. وقال فيكياريدس: “إن الحالات الشاذة تتناقص”. وقال إنه على الرغم من وجود دعم متزايد بين اللاعبين الرئيسيين في الصناعة لوضع العلامات المائية على المواد التي ينتجها الذكاء الاصطناعي، فإن الجهات الفاعلة السيئة لن تلتزم بهذه القواعد.
وفي رأيه أن الإعلانات السياسية الكاذبة وغيرها من المواد الكاذبة التي يتم بثها إلى جمهور واسع لن يكون لها تأثير كبير لأنه “يتم فضحها بسرعة”. وقال إن ما يحتمل أن يكون ضارًا هو التزييف العميق الذي يدفعه المؤثرون إلى متابعيهم أو ينتقل من فرد إلى آخر.
حذر دانييل كانج، الأستاذ المساعد لعلوم الكمبيوتر في جامعة إلينوي أوربانا شامبين والخبير في الكشف عن التزييف العميق، من أنه لا توجد أداة للكشف عن الذكاء الاصطناعي اليوم جيدة بما يكفي للقبض على مهاجم متحمس للغاية ويتمتع بموارد جيدة مثل التزييف العميق الذي ترعاه الدولة. الخالق. وقال إنه نظرًا لوجود العديد من الطرق لمعالجة الصورة، يمكن للمهاجم “تعديل عدد من المقابض يفوق عدد النجوم في الكون لمحاولة تجاوز آليات الكشف”.
لكن العديد من التزييف العميق لا يأتي من مهاجمين متطورين للغاية، ولهذا السبب قال كانغ إنه متفائل بشأن التقنيات الحالية لاكتشاف الوسائط التي يولدها الذكاء الاصطناعي، حتى لو لم يتمكنوا من تحديد كل شيء. وقال كانغ إن إضافة أدوات تعتمد على الذكاء الاصطناعي إلى مواقع الويب تسمح الآن للأدوات بالتعلم والتحسين بمرور الوقت، مثلما تفعل مرشحات البريد العشوائي.
وقال إنهم ليسوا رصاصة فضية. ويجب دمجها مع ضمانات أخرى ضد المحتوى الذي تم التلاعب به. ومع ذلك، قال كانج: “أعتقد أن هناك تكنولوجيا جيدة يمكننا استخدامها وستتحسن بمرور الوقت”.
وقال فيكياريدس إن الجمهور استعد لموجة التزييف العميق من خلال قبول الاستخدام الواسع النطاق لأدوات معالجة الصور، مثل محرري الصور الذين يقومون فعليًا بتنقيح العيوب في صور غلاف المجلات. وقال إن الأمر ليس بهذه القفزة الكبيرة من خلفية مزيفة في مكالمة Zoom إلى صورة مزيفة للشخص الذي تقابله عبر الإنترنت.
قال فيكياريدس: “لقد أخرجنا القطة من الحقيبة، وكان من الصعب إعادتها إليها مرة أخرى”.
