انتقد الباحثون المسؤولين الأمريكيين لعدم طرح قواعد أكثر صرامة للذكاء الاصطناعي قبل أن تصبح نجمة البوب تايلور سويفت ضحية للتزييف العميق.
صور تظهر أربع مرات الفائز بجائزة جرامي في سلسلة من الأفعال الجنسية بينما كان يرتدي تذكارات رئيس مدينة كانساس سيتي وفي الملعب – وحصة الإباحية – تمت مشاهدتها 47 مليون مرة عبر الإنترنت قبل إزالتها.
وقال أستاذ في كلية الحقوق بجامعة جورج واشنطن إنه لو تم “إقرار التشريع المناسب منذ سنوات” لما تعرض سويفت وآخرون لمثل هذه الانتهاكات.
قالت ماري آن فرانكس: “نحن قليلون جدًا ومتأخرون جدًا في هذه المرحلة”.
“لن يقتصر الأمر على الفتاة البالغة من العمر 14 عامًا أو تايلور سويفت. سيكون من السياسيين. سيكون زعماء العالم. ستكون انتخابات».
تم تداول الصور المزيفة غير الرضائية والجنسية الصريحة لتايلور سويفت على وسائل التواصل الاجتماعي وتمت مشاهدتها 47 مليون مرة قبل إزالتها.
تم استهداف مجموعة من الفتيات المراهقات بصور مزيفة في مدرسة ثانوية في نيوجيرسي عندما بدأ زملاؤهن الذكور في مشاركة صور عارية لهن في محادثات جماعية.
في 20 أكتوبر، ورد أن أحد الأولاد في الدردشة الجماعية تحدث عن الأمر إلى أحد زملائه في الفصل الذي أحضره إلى مديري المدرسة.
“أرسلت لي ابنتي رسالة تقول فيها: “أمي، يتم توزيع صوري العارية”. هذا كل شيء. وقالت إحدى الأمهات لشبكة سي بي إس نيوز: “متوجهة إلى مكتب المدير”.
وأضافت أن ابنتها البالغة من العمر 14 عامًا “بدأت في البكاء، ثم كانت تمشي في الممرات وترى فتيات أخريات في مدرسة ويستفيلد الثانوية يبكون”.
ولكن لم يكن الأمر كذلك حتى انتشرت الصور المزيفة لتايلور سويفت على نطاق واسع، مما دفع المشرعين إلى اتخاذ إجراء.
قام X بإغلاق الحساب الذي نشر في الأصل صورًا رسومية عميقة التزييف لـ Swift بسبب انتهاك سياسة النظام الأساسي، ولكن بعد فوات الأوان – تمت إعادة نشرها بالفعل 24000 مرة.
كشف تقرير 404 Media أن الصور ربما تكون قد نشأت من مجموعة على Telegram بعد أن ورد أن المستخدمين مازحوا حول كيفية انتشار صور Swift.
X قال وكانت فرقها تتخذ “الإجراء المناسب” ضد الحسابات التي نشرت الصور المزيفة وقالت إنها تراقب الوضع وتزيل الصور.
في الأسبوع الماضي، قدم أعضاء مجلس الشيوخ الأمريكي قانون تعطيل الصور المزورة الصريحة والتحريرات غير التوافقية لعام 2024 (قانون التحدي) بعد وقت قصير من وقوع سويفت ضحية لهذه التكنولوجيا.
وقال النائب الديمقراطي عن ولاية إلينوي، ديك دوربين، من الأغلبية في مجلس الشيوخ، الأسبوع الماضي: “على الرغم من أن الصور قد تكون مزيفة، إلا أن الضرر الذي يلحق بالضحايا من توزيع “المواد المزيفة” الجنسية الصريحة هو حقيقي للغاية”.
لقد فقد الضحايا وظائفهم، وقد يعانون من الاكتئاب أو القلق المستمر.
“من خلال تقديم هذا التشريع، فإننا نعيد السلطة إلى الضحايا، ونتخذ إجراءات صارمة ضد توزيع الصور “المزيفة العميقة”، ونحاسب المسؤولين عن الصور”.
اقترح المشرعون قانون التحدي الذي من شأنه أن يسمح للناس بمقاضاة أولئك الذين أنشأوا محتوى مزيفًا لهم
قدم السياسيون قانون منع التزييف العميق للصور الحميمة في العام الماضي – والذي من شأنه أن يجعل من غير القانوني مشاركة المواد الإباحية العميقة غير التوافقية – ولكن لم يتم إقراره بعد.
وقال فرانكس، الأستاذ في كلية الحقوق بجامعة جورج واشنطن ورئيس المركز المدني السيبراني: “إذا كان هناك تشريع تم إقراره منذ سنوات مضت عندما كان المؤيدون يقولون إن هذا هو ما سيحدث مع هذا النوع من التكنولوجيا، فربما لم نكن في هذا الموقف”. مبادرة الحقوق، حسبما صرحت مجلة ساينتفيك أمريكان.
وقال فرانكس إن المشرعين لا يفعلون سوى القليل بعد فوات الأوان.
وأوضحت: “لا يزال بإمكاننا أن نحاول التخفيف من حدة الكارثة الناشئة”.
وقالت فرانكس إن النساء مثل “طيور الكناري في منجم الفحم”، متحدثة عن كيفية تأثير الذكاء الاصطناعي بشكل غير متناسب على السكان الإناث.
وأضافت أنه في النهاية “لن يقتصر الأمر على الفتاة البالغة من العمر 14 عامًا أو تايلور سويفت”. سيكون من السياسيين. سيكون زعماء العالم. ستكون انتخابات».
وجدت دراسة أجريت عام 2023 أنه في السنوات الخمس الماضية، كانت هناك زيادة بنسبة 550 بالمائة في إنشاء الصور التي تم التلاعب بها، مع نشر 95820 مقطع فيديو مزيفًا على الإنترنت في العام الماضي وحده.
في استطلاع أجرته Dailymail.com/TIPP: وافق 75 بالمائة من الأشخاص على أن الأشخاص الذين يشاركون صورًا إباحية مزيفة للغاية عبر الإنترنت يجب أن يواجهوا اتهامات جنائية.
تستخدم تقنية Deepfake الذكاء الاصطناعي للتلاعب بوجه الشخص أو جسده، ولا توجد حاليًا قوانين فيدرالية معمول بها لحماية الأشخاص من مشاركة مثل هذه الصور أو إنشائها.
ودعا النائب جوزيف موريل (ديمقراطي من نيويورك)، الذي كشف النقاب عن قانون منع التزييف العميق للصور الحميمة، المشرعين الآخرين إلى تكثيف الإجراءات واتخاذ إجراءات عاجلة ضد ارتفاع الصور ومقاطع الفيديو المزيفة.
وقال موريل إن الصور ومقاطع الفيديو “يمكن أن تسبب ضررا عاطفيا وماليا وسمعيا لا رجعة فيه”، مضيفا: “ولسوء الحظ، تتأثر النساء بشكل غير متناسب”.
يتفق 75% من الأشخاص على أن الأشخاص الذين يشاركون صورًا إباحية مزيفة عبر الإنترنت يجب أن يواجهوا اتهامات جنائية
ومع ذلك، وعلى الرغم من كل حديثهم، لا توجد حتى الآن حواجز حماية محددة لحماية الأمريكيين من الوقوع ضحية للصور أو مقاطع الفيديو المزيفة دون رضاهم.
وقال عضو الكونجرس توم كين الابن، الذي اقترح قانون تصنيف الذكاء الاصطناعي في نوفمبر من العام الماضي: “من الواضح أن تكنولوجيا الذكاء الاصطناعي تتقدم بشكل أسرع من حواجز الحماية الضرورية”.
سيتطلب القانون من شركات الذكاء الاصطناعي إضافة تسميات إلى أي محتوى يتم إنشاؤه بواسطة الذكاء الاصطناعي وإجبارها على اتخاذ خطوات مسؤولة لمنع نشر محتوى غير توافقي.
وقال كين: “سواء كانت الضحية تايلور سويفت أو أي شاب في جميع أنحاء بلادنا، فإننا بحاجة إلى وضع ضمانات لمكافحة هذا الاتجاه المثير للقلق”.
ومع ذلك، هناك عقبة رئيسية أمام كل الضجيج التشريعي: من الذي يجب توجيه الاتهام إليه بارتكاب جريمة بمجرد إقرار قانون يجرم التزييف العميق.
من المستبعد جدًا أن يقوم الشخص المخطئ بالتعريف عن نفسه، ولا تستطيع دراسات الطب الشرعي دائمًا تحديد وإثبات البرنامج الذي أنشأ المحتوى، وفقًا لأمير جافي، المستشار الرئيسي في مجال الذكاء الاصطناعي في شركة المحاماة فريد فرانك.
وحتى إذا تمكنت جهات إنفاذ القانون من تحديد مصدر المحتوى، فقد يُمنعون من اتخاذ إجراء بموجب المادة 230، التي تنص على أن مواقع الويب ليست مسؤولة عما ينشره المستخدمون.
وبغض النظر عن ذلك، فإن الحواجز المحتملة لا تبطئ السياسيين في أعقاب مواجهة سويفت بمحتوى مزيف جنسيًا صريحًا.
قال السيناتور جوش هاولي (جمهوري من ولاية ميسوري): “لا ينبغي لأحد – لا المشاهير ولا الأمريكيين العاديين – أن يجد نفسه معروضًا في المواد الإباحية التي تعتمد على الذكاء الاصطناعي”.
وفي معرض حديثه عن قانون التحدي، قال: “للأبرياء الحق في الدفاع عن سمعتهم ومحاسبة الجناة في المحكمة”. وهذا القانون سيجعل ذلك حقيقة واقعة.