استخدم المحتالون المحتملون استنساخًا صوتيًا لبنديكت كومبرباتش
تم استهداف شركة إنتاج أفلام من قبل محتالين باستخدام “نسخة” صوتية لبينديكت كومبرباتش أنشأتها منظمة العفو الدولية ، حسبما كشفت الشركة لموقع DailyMail.com.
يقول بوب ويليام ، كاتب السيناريو والمخرج في شركة Peabody Films ، وهي شركة مقرها في مالقة بإسبانيا ، إن بنديكت كومبرباتش المقنع بشكل مخيف اتصل بالشركة لمناقشة صفقة فيلم.
يقول ويليام إن AI Cumberbatch كان “ الصوت بنسبة 100 في المائة ” ، مضيفًا أن الشركة كانت مقتنعة بأنها الممثل الحقيقي في البداية.
عندما رفض “Cumberbatch” ووكيله الالتقاء شخصيًا ، أدركوا الحيلة ، وأنقذوا أنفسهم من خسارة المال.
لكن ، وقع العديد من الأشخاص الآخرين في عمليات احتيال مماثلة ، حيث يفتح الذكاء الاصطناعي الباب أمام أدوات جديدة يمكن للممثلين السيئين استخدامها لسرقة الأموال من الأشخاص المطمئنين.
أدرك الموظفون الفنيون في Peabody Films أن المكالمة جاءت من فيلادلفيا (Peabody Films)
في البداية ، بدا البريد الإلكتروني وكأنه حلم أصبح حقيقة. قال السيد ويليام: “ يبدو أن بنديكت كومبرباتش قد قرأ السيناريو الخاص بفيلمنا القادم وكان مهتمًا بمناقشة دور محتمل.
بينما نقرأ المزيد ، لم نتمكن من تصديق حظنا.
كان هنا أحد أكثر الممثلين الموهوبين في عصرنا ، حيث تواصل معنا وأظهر اهتمامًا بمشروعنا.
لقد شعرنا بالصدمة وخيبة الأمل عندما اكتشفنا أننا كنا ضحية لبرنامج ذكاء اصطناعي يتظاهر بأنه ممثل مشهور.
يقول المخرج إنه “مثال على التطور المتزايد لتكنولوجيا الذكاء الاصطناعي وقدرتها على الخداع”.
قال السيد ويليام إنه تم إرسال بريد إلكتروني إليهم في البداية من قبل شخص يدعي أنه وكيل نجمة المنتقمون ، والذي اقترح بعد ذلك إجراء مكالمة.
لقد أدرك أنها كانت عملية احتيال عندما بدا أن الرقم الذي اتصل منه يحتوي على عدد كبير جدًا من الأرقام – كما أن “Cumberbatch” المزيف كان مترددًا جدًا في مقابلته شخصيًا.
إن تقنية انتحال أصوات الأشخاص موجودة بالفعل – ويستخدمها المحتالون بالفعل.
وجدت شركة McAfee للأمن السيبراني أنه في جميع أنحاء الولايات المتحدة والمملكة المتحدة وفرنسا وألمانيا واليابان وأستراليا والهند ، تم استهداف 10 بالمائة من الأشخاص بواسطة عملية احتيال صوتي بواسطة الذكاء الاصطناعي.
لقد أظهروا فعالية ملحوظة أيضًا ، حيث ورد أن 78 في المائة من هؤلاء قد استهدفوا خسارة الأموال نتيجة لذلك.
في وقت سابق من هذا العام ، أظهر باحثو Microsoft نموذجًا للذكاء الاصطناعي لتحويل النص إلى كلام يمكنه تجميع صوت أي شخص من عينة صوتية مدتها ثلاث ثوانٍ.
يمكن للنموذج ، VALL-E ، الحفاظ على النغمة العاطفية للمتحدث ، ويمكنه جعل الشخص يقول أي شيء – حيث يقترح منشئوه أنه يمكن استخدامه لإنشاء محتوى صوتي مكتوب بواسطة نماذج أخرى للذكاء الاصطناعي.
قال ويليام إن فيلم “كومبرباتش” المزيف كان مقنعًا بنسبة 100 في المائة.
لقد كان الصوت. لا شك في ذلك.
يجب أن يكون الذكاء الاصطناعي هو المصدر. اعتقدنا في البداية أنه قد يكون ممثلًا صوتيًا يلعب مزحة عملية – ولكن بعد ذلك استمر الأمر وبدأوا في طلب المال. “
أجرت الشركة عدة محادثات مع “Cumberbatch” ، لكنها لاحظت بعد ذلك “بعض العلامات الحمراء” ، كما يقول ويليام – بما في ذلك إحجامه عن الالتقاء شخصيًا.
“كانت هناك أيضًا بعض الطلبات الغريبة ، مثل مطالبتنا بدفع رسوم تسجيل قدرها 200 ألف جنيه إسترليني قبل حتى مقابلتنا شخصيًا.”
يقول ويليام إنه تحدى الوكيل المزيف بشأن المكان الذي شاهد فيه سيناريو الفيلم القادم إيما ، والذي لم يتم تداوله على نطاق واسع.
السؤال لم يتم الاعتراف به حتى.
عندما اتصل بلوحة مفاتيح الشركة الحقيقية ، سأل عن جيمس هايز – لكن قيل له إن لا أحد من هذا الاسم يعمل في الشركة.
يقول ويليام إنه يعتقد أنه كان مستهدفًا لأنهم ، بصفتهم شركة إنتاج صغيرة ، لن يكون لديهم الموارد للتحقق من التفاصيل.
يقول إنه سيخطر الآن الشركة التي ادعى الوكيل المزعوم أنه قادم منها – Conway VanGelder ، ويقول إنه يفكر في إبلاغ الشرطة بالهجوم.
قال أليكسي خيتروف ، خبير الذكاء الاصطناعي والاحتيال ، مؤسس ورئيس ID R&D ، متحدثًا إلى DailyMail.com ، إن الصور والصوت المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي تُستخدم بالفعل على نطاق واسع في الاحتيال التجاري.
قال ، “لقد أجرينا دراسة استقصائية هناك مع المشاركين في المؤسسة. ما رأيناه هو أن 42 بالمائة منهم قد رأوا استخدام التزييف العميق في محاولات احتيالية في مجال عملهم. لذا فهو حقيقي ، إنه موجود بالفعل.
Peabody Films هي شركة إنتاج مستقلة أسسها المخرج البريطاني الشهير Barney Platts-Mills ، والمعروفة بأفلامها الحائزة على جوائز بما في ذلك Bronco Bullfrog و Private Road.
منذ وفاة Platts-Mills في عام 2021 ، أنتجت الشركة أفلامًا روائية بما في ذلك The Way We Are ، The Way We Were ، المقرر إطلاقها في عام 2024.