كيف يحميك البنك الذي تتعامل معه من المد المتزايد لعمليات احتيال استنساخ الصوت باستخدام الذكاء الاصطناعي؟

يستخدم المحتالون تقنية الذكاء الاصطناعي لتقليد أصوات أصدقاء الضحية أو أفراد عائلتها المتواضعين واستخدامها لابتزاز الأموال.

لقد تم بالفعل استهداف أكثر من ربع الأشخاص من خلال عمليات استنساخ الصوت باستخدام الذكاء الاصطناعي مرة واحدة على الأقل في العام الماضي.

وتظهر البيانات أن ملايين آخرين قد يتعرضون الآن لخطر الوقوع في الفخ.

يأتي ذلك في الوقت الذي أكد فيه منظم أنظمة المدفوعات أنه سيخفض الحد المقترح لسداد تكاليف الاحتيال من 415000 جنيه إسترليني إلى 85000 جنيه إسترليني مع دخول القواعد حيز التنفيذ في 7 أكتوبر.

سألت شركة This is Money البنوك عن كيفية مكافحة المد المتزايد لعمليات احتيال استنساخ الصوت بالذكاء الاصطناعي وما الذي تفعله لحماية العملاء.

لماذا تعتبر عمليات استنساخ الصوت باستخدام الذكاء الاصطناعي مصدر قلق؟

تعد عملية احتيال استنساخ الصوت بالذكاء الاصطناعي نوعًا متطورًا من عمليات الاحتيال حيث يستخدم المحتالون تقنية استنساخ الصوت لنسخ صوت الشخص من مقطع صوتي قصير.

يستطيع المحتالون التقاط مقاطع صوتية مزيفة بسهولة وتكلفة زهيدة عبر الإنترنت في دقائق معدودة.

يمكن بسهولة التقاط المقاطع الصوتية المستخدمة في عمليات استنساخ الصوت باستخدام الذكاء الاصطناعي من مقطع فيديو قام شخص ما بتحميله عبر الإنترنت أو على وسائل التواصل الاجتماعي أو حتى من رسالة بريد صوتي.

يقال إن المحتالين يحتاجون فقط إلى ثلاث ثوانٍ من الصوت لاستنساخ صوتك.

يمكنهم التعرف على أفراد عائلة الضحية واستخدام الصوت المستنسخ لإجراء مكالمة هاتفية أو رسالة صوتية أو بريد صوتي لهم، لطلب الأموال التي يحتاجونها بشكل عاجل، على سبيل المثال بسبب التعرض لحادث أو لدفع الإيجار.

ماذا تفعل البنوك لحماية عملائها؟

وقال روب وودز، المتخصص في الاحتيال والهوية في LexisNexis Risk Solutions: “إن عمليات الاحتيال العميق التي يقودها الذكاء الاصطناعي، مثل استنساخ الصوت، تشكل مصدر قلق متزايد لبنوك المملكة المتحدة، لأنها وسيلة فعالة لإقناع الضحايا بأنهم بحاجة إلى كسب المال بشكل عاجل”. نقل إلى صديق أو قريب في حاجة إليها.

المشكلة في عمليات الاحتيال هذه هي أنه من خلال إقناع الضحية بالموافقة على الدفع، يتجاوز المحتالون بشكل فعال جميع خطوات المصادقة القوية التي وضعها البنك لمنعهم من سرقة أموالك.

ويواصل وودز قائلاً: “إن التحدي الذي يواجه البنوك هو فهم كيفية اكتشاف طلبات التحويل الاحتيالية، مقارنة بتلك الطلبات الحقيقية”.

“هناك عدد من إشارات المخاطر المتاحة التي يمكن أن تساعد، مثل القياسات الحيوية السلوكية المدعومة بالذكاء الاصطناعي والتي تحلل كيفية استخدام الهاتف، والكشف المباشر عن المكالمات – تستخدم البنوك هذه الأنواع من الإشارات لبناء نماذج المخاطر التي تساعد في اكتشاف متى يمكن الاحتيال تكون جارية.

بينما يجد المجرمون المزيد والمزيد من الطرق لاستخدام الذكاء الاصطناعي للاحتيال على الأشخاص، تستخدم البنوك أيضًا الذكاء الاصطناعي لمكافحة الاحتيال وقد ظلت تفعل ذلك على مدار العشرين عامًا الماضية.

وقال وودز: “شهدت ثلاثة بنوك كبرى قدمت نماذج الذكاء الاصطناعي لمعالجة عمليات الاحتيال ارتفاعًا متوسطًا بنسبة 260 في المائة في حالات الاحتيال المكتشفة”.

لم تتمكن LexisNexis Risk Solutions من الكشف عن البنوك الثلاثة التي قدمت نماذج الذكاء الاصطناعي لمعالجة عمليات الاحتيال.

سانتاندر

يستخدم Santander نماذج التعلم الآلي، التي تدعمها شركة تدعى Lynx Tech، لمكافحة الاحتيال في البطاقات والمدفوعات.

تستخدم منصة Lynx Tech الذكاء الاصطناعي للتعرف على سلوك معاملات العملاء واكتشاف الاحتيال.

وتقول إن نظامها يقوم بفحص 66 مليار معاملة ويحمي 300 مليون عميل من الاحتيال كل عام.

وقال متحدث باسم سانتاندر: “لقد كنا نستخدم الذكاء الاصطناعي للكشف عن الدفع، والكشف السلوكي، ومجموعة متنوعة من حالات الاستخدام الأخرى لعدد من السنوات.

“من الصعب جدًا التعرف على عمليات الاحتيال التي يتم الإبلاغ عنها بواسطة الذكاء الاصطناعي، حيث لا يعرف العملاء في كثير من الأحيان أن الذكاء الاصطناعي متورط في عملية الاحتيال.

“لدينا مجموعة من الضوابط والتوازنات الشاملة المطبقة لاكتشاف ومنع استخدام استنساخ الصوت بالذكاء الاصطناعي.”

وجدت أبحاث سانتاندر أن أكثر من نصف البريطانيين إما لم يسمعوا عن مصطلح التزييف العميق، أو أساءوا فهم ما يعنيه.

في حين أن 17% فقط من الأشخاص واثقون من قدرتهم على التعرف بسهولة على مقاطع الفيديو المزيفة بعمق.

على الصعيد الوطني

إحدى الطرق التي تحمي بها Nationwide Building Society عملائها من عمليات الاحتيال لاستنساخ الصوت باستخدام الذكاء الاصطناعي هي عدم تمكين الدفع عبر الخدمات المصرفية عبر الهاتف. إذا أراد العميل إجراء الدفع لصديق أو أحد أفراد العائلة، فسيكون بإمكانه إجراء الدفع في أحد الفروع

تستخدم Nationwide أيضًا الذكاء الاصطناعي لتحليل بيانات المعاملات.

وقال متحدث باسم Nationwide: “لا تسمح Nationwide بإجراء الدفعات عبر الخدمات المصرفية عبر الهاتف، لكننا ما زلنا نراقب أي نشاط صوتي مشبوه للحفاظ على سلامة عملائنا”.

“يشكل الذكاء الاصطناعي والتحليلات المتقدمة جزءًا مهمًا من إطار عمل منع الاحتيال متعدد الطبقات لدينا.

“نحن قلقون بشأن نمو عمليات الاحتيال هذه ونعمل بجد لضمان بقاء عملائنا محميين. يتضمن ذلك استخدام التحليلات المتقدمة وعناصر التحكم الخاصة بالصوت. ومن المهم أن يكون المستهلكون يقظين تجاه الهجمات التي يمكن أن تؤثر عليهم بشكل مباشر، مثل المتصلين الذين يزعمون أنهم من العائلة أو الأصدقاء.

باركليز

يستثمر باركليز في أنظمة أمنية متعددة الطبقات تساعد في حماية العملاء. وتقول إن هذه عادةً ما تمنع عدة آلاف من محاولات المعاملات الاحتيالية كل يوم.

يتضمن ذلك نظامًا متطورًا لملفات تعريف المعاملات فريدًا لكل عميل.

وقال متحدث باسم باركليز: “بالنسبة لكل دفعة من المدفوعات التي يزيد عددها عن 50 مليونًا والتي يقوم بها عملاؤنا في المملكة المتحدة كل شهر، تحدد أنظمة الكشف عن الاحتيال ونماذج التعلم الآلي لدينا في أقل من ثانية ما إذا كان من المحتمل أن يكون المحتال وليس العميل، أو ما إذا كان لدينا يبدو أن العميل معرض لخطر الاحتيال.

“إذا بدت المعاملة محفوفة بالمخاطر، فسيتم تقديم شيكات إضافية للعميل قبل تحرير الدفعة.”

“إلى جانب الوقاية التقنية لدينا، نعمل بلا كلل للمساعدة في تسليح الجمهور بالمعلومات والأدوات اللازمة لاكتشاف عمليات الاحتيال والاحتيال وإيقافها، بما في ذلك رسائل التحذير طوال رحلة الدفع، وتعليم عمليات الاحتيال عبر الإشعارات داخل التطبيق، وقنوات التواصل الاجتماعي، والصحافة، وقسم مخصص. موقع إلكتروني.'

بنك ستارلينج

أطلقت ستارلينغ حملة عبارات آمنة، لدعم حملة الاحتيال الحكومية لرفع مستوى الوعي بعمليات احتيال استنساخ الصوت بالذكاء الاصطناعي بين العملاء ردًا على صعودهم.

إنه تشجيع الأشخاص على الاتفاق على عبارة آمنة أو كلمة مرور آمنة مع أصدقائهم المقربين وعائلاتهم الذين لا يعرفهم أي شخص آخر، للسماح لهم بالتحقق من أنهم يتحدثون إليهم حقًا عندما يتصلون ويطلبون إرسال الأموال.

ثم إذا تم الاتصال بأي شخص من قبل شخص يدعي أنه صديق أو فرد من أفراد العائلة، وهو لا يعرف هذه العبارة، فيمكن تنبيهه على الفور إلى حقيقة أنه من المحتمل أن تكون عملية احتيال.

مونزو

قدمت Monzo إجراءات حماية جديدة من الاحتيال للعملاء في وقت سابق من هذا العام.

إحدى هذه الميزات كانت ميزة جهات الاتصال الموثوقة حيث يمكن للعملاء اختيار صديق أو أحد أفراد العائلة للتحقق مرة أخرى من أي تحويلات مصرفية وسحوبات مدخرات تتجاوز الحد اليومي المحدد لهم.

يتضمن ذلك موافقة العملاء على رؤية الأصدقاء والعائلة المختارين لبعض التفاصيل حول المعاملات التي يقومون بها. بعد ذلك سيطلب منهم Monzo التأكد من هويتك والتأكد من أنها تبدو آمنة.

الفكرة وراء ذلك هي أنه، باعتباره شخصًا يعرف العميل، سيتمكن الأصدقاء والعائلة من الإبلاغ إذا كان هناك أي شيء يبدو مريبًا. على سبيل المثال، إذا كانوا يعرفون أنك لا تخطط للقيام بأي عمليات شراء كبيرة.

ناتويست

وقال متحدث باسم NatWest: “تمثل عمليات الاحتيال في استنساخ الصوت باستخدام الذكاء الاصطناعي تهديدًا نتعرف عليه ونراقبه، ونستقطب خبراء فنيين داخليين وخارجيين للتأكد من أن لدينا قدرات قوية للمصادقة والكشف لمنع هذا النوع من إساءة الاستخدام واختبار هذه الحماية.” '

“نحن ندرك الفرصة التي يتمتع بها المحتالون، والتطور السريع للتقنيات التي تعمل على استنساخ أصوات الأفراد بشكل أكثر دقة، وأن هذه الأصوات الاصطناعية يمكن استخدامها إما للتلاعب بالعميل عبر الهندسة الاجتماعية، أو يمكن استخدامها في محاولة انتحال شخصية عملائنا لدى البنك، للوصول إلى الخدمات المصرفية أو أموال العملاء

“إن تحسين ضوابط الخصوصية على وسائل التواصل الاجتماعي أمر مهم ولكن يمكن للأشخاص أيضًا المساعدة في حماية أنفسهم من خلال النظر في المعلومات التي يشاركونها علنًا على وسائل التواصل الاجتماعي.”

قال وودز: “تتعرض البنوك والخدمات المالية الأخرى الآن لضغوط أكبر لوقف الاحتيال في APP نتيجة لقواعد سداد الاحتيال الجديدة الخاصة بـ PSR.

لقد تواصلنا أيضًا مع HSBC وLloyds للتعليق، لكن كلاهما اختار عدم التعليق.