حذر مهندسو الكمبيوتر وعلماء السياسة المهووسون بالتكنولوجيا لسنوات من أن أدوات الذكاء الاصطناعي الرخيصة والقوية ستسمح قريبًا لأي شخص بإنشاء صور وفيديو وصوت مزيفين يكون واقعيًا بما يكفي لخداع الناخبين وربما التأثير على الانتخابات.
كانت الصور الاصطناعية التي ظهرت في كثير من الأحيان بدائيةغير مقنع ويكون إنتاجه مكلفًا ، لا سيما عندما تكون أنواع أخرى من المعلومات المضللة غير مكلفة جدًا ويسهل نشرها على وسائل التواصل الاجتماعي. التهديد الذي يشكله الذكاء الاصطناعي وما يسمى بالتزييف العميق بدا دائمًا على بعد عام أو عامين.
لا أكثر.
يمكن لأدوات الذكاء الاصطناعي التوليدية المتطورة الآن إنشاء أصوات بشرية مستنسخة وصور واقعية للغايةومقاطع الفيديو والصوت في ثوانٍ وبأقل تكلفة. عندما يتم ربط هذا المحتوى المزيف والمُنشأ رقميًا بخوارزميات قوية لوسائل التواصل الاجتماعي ، يمكن أن ينتشر بعيدًا وبسرعة ويستهدف جماهير محددة للغاية ، مما قد ينقل الحيل القذرة للحملة إلى مستوى منخفض جديد.
تداعيات حملات وانتخابات عام 2024 كبيرة بقدر ما هي مقلقة: لا يمكن للذكاء الاصطناعي التوليدي إنتاج رسائل بريد إلكتروني أو نصوص أو مقاطع فيديو مستهدفة للحملة بسرعة فحسب ، بل يمكن استخدامه أيضًا لتضليل الناخبينوانتحال شخصية المرشحين وتقويض الانتخابات على نطاق وبسرعة لم نشهدها بعد.
حذر AJ Nash ، نائب رئيس الاستخبارات في شركة ZeroFox للأمن السيبراني: “لسنا مستعدين لذلك”. “بالنسبة لي ، فإن القفزة الكبيرة إلى الأمام هي قدرات الصوت والفيديو التي ظهرت. عندما يمكنك القيام بذلك على نطاق واسع ، وتوزيعه على المنصات الاجتماعية ، حسنًا ، سيكون له تأثير كبير “.
خبراء الذكاء الاصطناعي يمكن أن تثير بسرعة عددًا من السيناريوهات المقلقة التي يتم فيها استخدام الذكاء الاصطناعي التوليفي لإنشاء وسائط تركيبية لأغراض إرباك الناخبين أو التشهير بمرشح أو حتى التحريض على العنف.
وإليك بعضًا منها: رسائل المكالمة الآلية ، بصوت المرشح ، لإرشاد الناخبين إلى الإدلاء بأصواتهم في التاريخ الخطأ ؛ التسجيلات الصوتية لمرشح يفترض أنه اعترف بجريمة أو يعبر عن آراء عنصرية ؛ مقطع فيديو يظهر شخصًا يلقي خطابًا أو مقابلة لم يعطوا. صور مزيفة مصممة لتبدو وكأنها تقارير إخبارية محلية ، تدعي كذباً انسحاب مرشح من السباق.
“ماذا لو اتصل بك إيلون ماسك شخصيًا وطلب منك التصويت لمرشح معين؟” قال أورين إيتزيوني ، الرئيس التنفيذي المؤسس لمعهد ألين للذكاء الاصطناعي ، الذي استقال العام الماضي لبدء منظمة AI2 غير الربحية. “الكثير من الناس سيستمعون. لكنه ليس هو “.
شارك الرئيس السابق دونالد ترامب ، الذي يترشح في عام 2024 ، محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي مع متابعيه على وسائل التواصل الاجتماعي. مقطع فيديو تم التلاعب به لمضيف CNN أندرسون كوبر شاركه ترامب على منصته Truth Social يوم الجمعة ، مما شوه رد فعل Cooper على مجلس مدينة CNN الأسبوع الماضي مع ترامب، باستخدام أداة استنساخ صوت AI.
يقدم إعلان حملة بائس صدر الشهر الماضي من قبل اللجنة الوطنية للحزب الجمهوري لمحة أخرى عن هذا المستقبل الذي يتم التلاعب به رقميًا. الإعلان عبر الإنترنت ، الذي جاء بعد إعلان الرئيس جو بايدن عن حملته لإعادة انتخابه، ويبدأ بصورة غريبة مشوهة قليلاً لبايدن والنص “ماذا لو أعيد انتخاب أضعف رئيس شهدناه على الإطلاق؟”
فيما يلي سلسلة من الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي: تايوان تتعرض للهجوم ؛ صعدت واجهات المحلات التجارية في الولايات المتحدة مع انهيار الاقتصاد ؛ يقوم الجنود والمركبات العسكرية المدرعة بدوريات في الشوارع المحلية حيث يتسبب مجرمون موشومون وموجات من المهاجرين في حالة من الذعر.
يقرأ وصف الإعلان من RNC “نظرة تم إنشاؤها بواسطة الذكاء الاصطناعي في المستقبل المحتمل للبلد إذا أعيد انتخاب جو بايدن في عام 2024”.
قال بيتكو ستويانوف ، كبير مسؤولي التكنولوجيا العالميين في Forcepoint ، وهي شركة للأمن السيبراني مقرها في أوستن بولاية تكساس ، إن المجلس الوطني للبحوث اعترف باستخدامه للذكاء الاصطناعي ، لكن الآخرين ، بما في ذلك الحملات السياسية الشائنة والخصوم الأجانب ، لن يفعلوا ذلك. توقع ستويانوف أن الجماعات التي تتطلع إلى التدخل في الديمقراطية الأمريكية سوف تستخدم الذكاء الاصطناعي والوسائط التركيبية كوسيلة لتقويض الثقة.
“ماذا يحدث إذا قام كيان دولي – مجرم إلكتروني أو دولة قومية – بانتحال شخصية شخص ما. ما هو التأثير؟ هل لدينا أي ملاذ؟ ” قال ستويانوف. “سنرى الكثير من المعلومات الخاطئة من المصادر الدولية.”
انتشرت بالفعل المعلومات السياسية المضللة الناتجة عن الذكاء الاصطناعي على الإنترنت قبل انتخابات 2024 ، من فيديو مزيف لبايدن يبدو أنه يلقي خطابًا يهاجم فيه المتحولين جنسيًا على صور الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي من المفترض أن يتعلم عبادة الشيطان في المكتبات.
تظهر صور منظمة العفو الدولية لإظهار لقطة القدح الخاصة بترامب خدع أيضًا بعض مستخدمي وسائل التواصل الاجتماعي على الرغم من أن الرئيس السابق لم يأخذ أيًا منها عندما تم حجزه ومحاكمته في محكمة جنائية في مانهاتن بتهمة تزوير سجلات تجارية. وأظهرت صور أخرى تم إنشاؤها بواسطة الذكاء الاصطناعي ، ترامب يقاوم الاعتقال، على الرغم من أن منشئهم سارع إلى الاعتراف بأصلهم.
تم تقديم التشريع الذي يتطلب من المرشحين تسمية إعلانات الحملة التي تم إنشاؤها باستخدام الذكاء الاصطناعي في مجلس النواب من قبل النائبة إيفيت كلارك ، ولاية نيويورك ، التي رعت أيضًا تشريعات تتطلب من أي شخص إنشاء صور اصطناعية لإضافة علامة مائية تشير إلى الحقيقة.
قدمت بعض الدول مقترحاتها الخاصة لمعالجة المخاوف بشأن التزييف العميق.
قالت كلارك إن خوفها الأكبر هو إمكانية استخدام الذكاء الاصطناعي التوليدي قبل انتخابات 2024 لإنشاء مقطع فيديو أو صوت يحرض على العنف ويثير الأمريكيين ضد بعضهم البعض.
قال كلارك لوكالة أسوشيتد برس: “من المهم أن نواكب التكنولوجيا”. “علينا نصب بعض حواجز الحماية. يمكن خداع الناس ، ولا يستغرق الأمر سوى جزء من الثانية. الناس مشغولون بحياتهم وليس لديهم الوقت للتحقق من كل معلومة. يجري تسليح الذكاء الاصطناعي ، في موسم سياسي ، يمكن أن يكون مدمرًا للغاية “.
في وقت سابق من هذا الشهر ، أدانت جمعية تجارية للمستشارين السياسيين في واشنطن استخدام تقنية التزييف العميق في الدعاية السياسية ، واصفا إياها بـ “الخداع” مع “لا مكان لها في الحملات المشروعة والأخلاقية”.
لطالما كانت الأشكال الأخرى للذكاء الاصطناعي سمة من سمات الحملات السياسية ، باستخدام البيانات والخوارزميات لأتمتة المهام مثل استهداف الناخبين على وسائل التواصل الاجتماعي أو تعقب المتبرعين. يأمل استراتيجيو الحملات ورواد الأعمال في مجال التكنولوجيا أن تقدم أحدث الابتكارات بعض الإيجابيات في عام 2024 أيضًا.
قال مايك نيليس ، الرئيس التنفيذي للوكالة الرقمية التقدمية Authentic ، إنه يستخدم ChatGPT “كل يوم” ويشجع طاقمه على استخدامها أيضًا ، طالما أن أي محتوى تمت صياغته باستخدام الأداة تتم مراجعته من قبل عيون البشر بعد ذلك.
أحدث مشروع لـ Nellis ، بالشراكة مع High Ground Labs ، هو أداة AI تسمى Quiller. ستقوم بكتابة وإرسال وتقييم فعالية رسائل البريد الإلكتروني لجمع التبرعات – وجميعها مهام مملة عادةً في الحملات.
وقال: “الفكرة هي أن كل استراتيجي ديمقراطي ، سيكون لكل مرشح ديمقراطي مساعد طيار في جيبه”.
___
تقرير سوينسون من نيويورك.
___
تتلقى وكالة أسوشيتد برس دعمًا من عدة مؤسسات خاصة لتعزيز تغطيتها التفسيرية للانتخابات والديمقراطية. تعرف على المزيد حول مبادرة الديمقراطية AP هنا. AP هي المسؤولة وحدها عن جميع المحتويات.
___
تابع تغطية أسوشييتد برس للمعلومات المضللة على https://apnews.com/hub/misinformation وتغطية الذكاء الاصطناعي على https://apnews.com/hub/artustry-intelligence