أكثر من 400 خبير في الذكاء الاصطناعي وقع المشاهير والسياسيون والناشطون على رسالة مفتوحة يطالبون المشرعين باتخاذ إجراءات ضدها com.deepfake تكنولوجيا.
وجادلت الرسالة بأن العدد المتزايد من مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي تشكل تهديدًا للمجتمع بسبب تضمين الصور الجنسية والمواد الإباحية للأطفال والاحتيال والتضليل السياسي.
Deepfakes هي وسائط تم إنشاؤها بواسطة الذكاء الاصطناعي وتحاكي الأصوات والصور ومقاطع الفيديو البشرية التي يمكن الخلط بينها وبين أنها حقيقية.
تنص الرسالة على أن تقنية التزييف العميق تضلل الجمهور، مما يجعل من الصعب تمييز ما هو حقيقي على الإنترنت، وبالتالي، أصبح تنفيذ القوانين الرسمية أكثر أهمية من أي وقت مضى “لحماية قدرتنا على التعرف على البشر الحقيقيين”.
تأتي الدعوات إلى فرض لوائح أكثر صرامة بعد انتشار الصور الجنسية الصريحة والمزيفة لتايلور سويفت على وسائل التواصل الاجتماعي الشهر الماضي.
تم استهداف تايلور سويفت من خلال الصور الجنسية الصريحة والمزيفة والتي انتشرت على نطاق واسع على موقع X الشهر الماضي
غالبية الأشخاص المستهدفين بالتزييف العميق هم من النساء، وقد ظهرت مقاطع فيديو في وقت مبكر من عام 2018. واستهدف أحد مقاطع الفيديو الممثلة ناتالي بورتمان.
وقال أندرو كريتش، باحث الذكاء الاصطناعي في جامعة كاليفورنيا في بيركلي في قسم الهندسة الكهربائية وعلوم الكمبيوتر والمؤلف الرئيسي لأبحاث الذكاء الاصطناعي: “إن التزييف العميق يمثل تهديدًا كبيرًا للمجتمع البشري ويسبب بالفعل ضررًا متزايدًا للأفراد والمجتمعات وعمل الديمقراطية”. خطاب.
“نحن بحاجة إلى اتخاذ إجراءات فورية لمكافحة انتشار التزييف العميق، وقد قمت أنا وزملائي بإنشاء هذه الرسالة كوسيلة للناس في جميع أنحاء العالم لإظهار دعمهم لجهود صنع القانون لوقف التزييف العميق.”
أصبحت تقنية Deepfakes منتشرة جدًا في المجتمع، لدرجة أنه بين عامي 2022 و2023، زادت كمية المحتوى الجنسي المزيف بأكثر من 400 بالمائة بينما قفز الاحتيال بنسبة صادمة بلغت 3000 بالمائة في ذلك الإطار الزمني، وفقًا لحملة حظر Deepfakes.
يتفق غالبية الناس على أن الأفراد الذين يشاركون المواد الإباحية العميقة عبر الإنترنت يجب أن يواجهوا اتهامات جنائية
كانت كريستين بيل من المشاهير الآخرين الذين تم استهدافهم بفيديو مزيف العام الماضي
تدعو الرسالة، التي تحمل عنوان “تعطيل سلسلة توريد Deepfake”، إلى فرض حظر شامل على تكنولوجيا التزييف العميق، وتطالب المشرعين بتجريم استغلال الأطفال في المواد الإباحية بشكل كامل ووضع عقوبات جنائية على أي شخص يقوم بإنشاء مثل هذا المحتوى أو مشاركته عن قصد.
وطالب الموقعون أيضًا بمحاسبة مطوري البرامج والموزعين على أي شخص يستخدم منتجاتهم الصوتية والمرئية لإنشاء مقاطع مزيفة عميقة.
وقالت سارة جاردنر، الرئيس التنفيذي لمبادرة هيت: “من الواضح بشكل متزايد أن أي شخص، في أي مكان، يمكن أن يكون هدفًا للتزييف العميق الضار، بما في ذلك أطفالنا”.
وأضافت: “المشرعون يعملون لصالحنا، ولديهم واجب أخلاقي لحماية أطفالنا من خلال التصرف بسرعة لمحاسبة المنصات والجهات الفاعلة السيئة التي تسمح بانتشار مواد الاعتداء الجنسي على الأطفال”.
كانت إيما واتسون هدفًا آخر لتقنية التزييف العميق عندما ظهر مقطع فيديو مزيف لها على الإنترنت
تم استهداف ممثلة Marvel سكارليت جوهانسون العام الماضي عندما ظهر إعلان فيديو مزيف يروج لليزا AI.
شجعت الرسالة شركات الإعلام ومطوري البرامج ومصنعي الأجهزة على العمل معًا لإنشاء طرق مصادقة مثل إضافة أختام رقمية مقاومة للتلاعب وتقنيات توقيع التشفير للتحقق من أن المحتوى حقيقي.
وذكر أيضًا أن العدد المتزايد من المواد الإباحية غير التوافقية هو أحد أهم أسباب أهمية الرسالة، مستشهدًا بأحد التقارير التي وجدت أن المواد الإباحية العميقة تمثل 98 بالمائة من جميع مقاطع الفيديو هذه عبر الإنترنت.
لا يقتصر الأمر على تايلور سويفت فحسب، بل يمكن الآن استهداف أي شخص من قبل أباطرة المواد الإباحية الخسيسين
تعد المواد الإباحية Deepfake بالفعل صناعة ضخمة تضم مواقع مخصصة بالكامل – وغير منظمة على ما يبدو.
وقد تلقت مقاطع الفيديو هذه 34 مليون مشاهدة في عام 2023، ومثلت النساء 99 بالمائة من الأشخاص المستهدفين.
تأتي الرسالة الجديدة في الوقت الذي أضافت فيه تايلور سويفت اسمها إلى العشرات من المشاهير الآخرين الذين كانوا ضحايا الصور المزيفة، عندما انتشرت صور جنسية صريحة غير رضاهم على موقع X، وحصدت أكثر من 27 مليون مشاهدة و260 ألف إعجاب قبل إزالة الصور.
كانت المشاهير الإناث الهدف الرئيسي للصور المزيفة منذ عام 2018 عندما ظهرت ناتالي بورتمان في مقطع فيديو.
تم استهداف ممثلة Marvel سكارليت جوهانسون أيضًا العام الماضي عندما ظهر إعلان فيديو مزيف يروج لـ Lisa AI.
في شهر مارس، ظهرت نجمة هاري بوتر، إيما واتسون، في إعلان مزيف على وسائل التواصل الاجتماعي، حيث يبدو أنها تمارس فعلًا جنسيًا.
وجاء في الرسالة أن التكنولوجيا تتقدم بسرعة كبيرة بحيث يمكن استهداف أي شخص، ويقع عامة الناس بشكل متزايد ضحية التزييف العميق.
تم استهداف أكثر من 30 مراهقة في مدرسة ثانوية في نيوجيرسي العام الماضي عندما قام زميل في الصف بإنشاء ونشر صور مزيفة لهن عبر الإنترنت، مما أثار غضب الطلاب وأولياء الأمور.
وقال أمير أونيلي، الباحث في ActiveFence، لموقع Dailymail.com في أكتوبر: “اليوم، نرى أنه يؤثر على الأفراد لأنه فوري جدًا وسريع جدًا”.
“الشيء الأكثر مأساوية هو أنه لا يوجد أحد في مأمن.”