كشف تقرير صادم أن محبي الأطفال يستخدمون الذكاء الاصطناعي لتحويل الصور الحقيقية للأطفال إلى صور جنسية

Posted by فريق التحرير منذ سنتين

تم الكشف عن أن محبي الأطفال يستخدمون منصة ذكاء اصطناعي جديدة شهيرة لتحويل الصور الحقيقية للأطفال إلى صور جنسية.

وقد أدى ذلك إلى تحذيرات للآباء لتوخي الحذر بشأن صور أطفالهم التي ينشرونها على الإنترنت.

تم العثور على الصور في منشئ الصور بالذكاء الاصطناعي الأمريكي Midjourney ، والذي يشبه إلى حد كبير ChatGPT الذي يستخدم مطالبات لتقديم مخرجات ، على الرغم من أنها تتكون عادةً من صور بدلاً من كلمات.

يتم استخدام المنصة من قبل الملايين وقد أنتجت مثل هذه الصور الواقعية التي خدعها الناس في جميع أنحاء العالم ، بما في ذلك المستخدمين على Twitter.

تسببت صورة البابا فرانسيس وهو يرتدي سترة بيضاء ضخمة منفوخة مع صليب معلق من رقبته في اندلاع حالة من الجنون بين مستخدمي وسائل التواصل الاجتماعي في وقت سابق من هذا العام.

تحقيق: تم الكشف عن أن مشتهي الأطفال يستخدمون برنامج الذكاء الاصطناعي الجديد Midjourney لتحويل الصور الحقيقية للأطفال إلى صور جنسية.

كانت هناك أيضًا صور مزيفة لاعتقال دونالد ترامب و “The Last Supper Selfie” تم إنتاجها باستخدام المنصة.

ما هو ميدجورني للذكاء الاصطناعي؟

Midjourney هو منشئ الصور على الإنترنت الذي ميشبه إلى حد كبير ChatGPT يستخدم المطالبات لتقديم مخرجات.

ومع ذلك ، تتكون هذه المخرجات عادة من صور وليس كلمات.

يتم استخدام المنصة من قبل الملايين وقد أنتجت مثل هذه الصور الواقعية التي خدعها الناس في جميع أنحاء العالم ، بما في ذلك المستخدمين على Twitter.

تسببت صورة البابا فرانسيس وهو يرتدي سترة بيضاء ضخمة منفوخة مع صليب معلق من رقبته في اندلاع حالة من الجنون بين مستخدمي وسائل التواصل الاجتماعي في وقت سابق من هذا العام.

كانت هناك أيضًا صور مزيفة لاعتقال دونالد ترامب و “The Last Supper Selfie” تم إنتاجها باستخدام المنصة.

في العام الماضي ، تلقت المنصة رد فعل عنيف عندما فازت صورة تم إنشاؤها بواسطة الكمبيوتر بالمركز الأول في مسابقة فنية أمريكية.

قدم جيسون ألين العمل الفني للذكاء الاصطناعي ، الذي أطلق عليه اسم Théâtre D’opéra Spatial ، والذي قال إنه استخدم Midjourney لعمل المشاهد المذهلة التي يبدو أنها تجمع بين العصور الوسطى وعالم مستقبلي.

أصدر البرنامج مؤخرًا إصدارًا جديدًا من برامجه زاد من الواقعية للصور ، مما أدى فقط إلى زيادة شعبيته بشكل أكبر.

وجد تحقيق أجرته صحيفة Times أن بعض مستخدمي Midjourney ينشئون عددًا كبيرًا من الصور الجنسية للأطفال ، وكذلك النساء والمشاهير.

ومن بين هذه الصور التزييف العميق الصريح لـ جينيفر لورانس وكيم كارداشيان.

ينتقل المستخدمون من خلال منصة الاتصال Discord لإنشاء مطالبات ثم تحميل الصور الناتجة على موقع ويب Midjourney في معرض عام.

على الرغم من قول الشركة أن المحتوى يجب أن يكون “PG-13 وصديقًا للعائلة” ، فقد حذرت أيضًا من أنه نظرًا لأن التكنولوجيا جديدة ، فإنها “لا تعمل دائمًا كما هو متوقع”.

ومع ذلك ، فإن الصور الفاضحة التي تم اكتشافها تنتهك شروط استخدام Midjourney و Discord.

على الرغم من أن صور الاعتداء الجنسي على الأطفال الافتراضية ليست غير قانونية في الولايات المتحدة ، إلا أن محتوى مثل هذا – المعروف بالصور غير الفوتوغرافية – محظور في إنجلترا وويلز.

قال ريتشارد كولارد ، الرئيس المساعد لسياسة سلامة الأطفال عبر الإنترنت في NSPCC: “ من غير المقبول تمامًا أن يقوم Discord و Midjourney بتسهيل إنشاء واستضافة صور مهينة ومسيئة وجنسية للأطفال.

“في بعض الحالات ، قد تكون هذه المواد غير قانونية بموجب قانون المملكة المتحدة ، ومن خلال استضافة محتوى مسيء للأطفال ، فإنها تعرض الأطفال لخطر حقيقي للغاية بالتعرض للأذى.”

وأضاف: “ إنه لأمر مؤلم للغاية أن يسرق الجناة صورهم ويتكيفوا معها.

من خلال نشر الصور فقط على جهات الاتصال الموثوقة وإدارة إعدادات الخصوصية الخاصة بهم ، يمكن للوالدين تقليل مخاطر استخدام الصور بهذه الطريقة.

“ولكن في النهاية يجب على شركات التكنولوجيا أن تتحمل مسؤولية معالجة الطريقة التي يتم بها استخدام خدماتها من قبل المخالفين.”

ردًا على نتائج The Times ، قالت Midjourney إنها ستحظر المستخدمين الذين خالفوا قواعدها.

وأضاف رئيسها التنفيذي ومؤسسها ديفيد هولز:خلال الأشهر القليلة الماضية ، كنا نعمل على وسيط AI قابل للتطوير ، بدأنا اختباره مع قاعدة المستخدمين هذا الأسبوع الماضي.

قال متحدث باسم Discord لصحيفة The Times: “لدى Discord سياسة عدم التسامح مطلقًا للترويج لمواد جنسية غير رضائية ومشاركتها ، بما في ذلك مواد التزييف العميق والاعتداء الجنسي على الأطفال”.

يقوم Midjourney بإخراج مثل هذه الصور الواقعية التي يتم خداع الناس. صورة للبابا فرانسيس وهو يرتدي سترة بيضاء ضخمة منفوخة مع صليب معلق من رقبته تسببت في حالة من الجنون بين مستخدمي وسائل التواصل الاجتماعي في وقت سابق من هذا العين.

يقوم Midjourney بإخراج مثل هذه الصور الواقعية التي يتم خداع الناس. صورة للبابا فرانسيس وهو يرتدي سترة بيضاء ضخمة منفوخة مع صليب معلق من رقبته تسببت في حالة من الجنون بين مستخدمي وسائل التواصل الاجتماعي في وقت سابق من هذا العين.

كما تم استخدام الذكاء الاصطناعي لإظهار اعتقال الرئيس الأمريكي السابق دونالد ترامب في نيويورك

كما تم استخدام الذكاء الاصطناعي لإظهار اعتقال الرئيس الأمريكي السابق دونالد ترامب في نيويورك

لقد أنتج صورًا لشخصيات تاريخية تلتقط صورة ذاتية خلال أحداث معروفة ، مثل العشاء الأخير

لقد أنتج صورًا لشخصيات تاريخية تلتقط صورة ذاتية خلال أحداث معروفة ، مثل العشاء الأخير

يأتي هذا الاكتشاف وسط قلق متزايد بشأن استغلال مشتهي الأطفال لبيئات الواقع الافتراضي.

في وقت سابق من هذا العام ، كشف تحقيق NSPCC لأول مرة عن كيفية استخدام منصات مثل metaverse لإساءة معاملة الأطفال.

أظهرت البيانات أن قوات الشرطة البريطانية قد سجلت ثمانية أمثلة حيث تم استخدام مساحات الواقع الافتراضي (VR) لجرائم صور الاعتداء الجنسي على الأطفال.

metaverse ، التي يقودها Meta’s Mark Zuckerberg بشكل أساسي ، هي مجموعة من المساحات الافتراضية حيث يمكنك اللعب والعمل والتواصل مع الآخرين الذين ليسوا في نفس المساحة المادية مثلك.

كان مؤسس Facebook صوتًا رائدًا في هذا المفهوم ، والذي يُنظر إليه على أنه مستقبل الإنترنت وسيطمس الخطوط الفاصلة بين المادي والرقمي.

سجلت شرطة ويست ميدلاندز خمس حالات من إساءة المعاملة العكسية ووارويكشاير واحدة ، بينما سجلت شرطة سوري جريمتين – بما في ذلك واحدة تتعلق بسماعة Meta Oculus ، والتي تسمى الآن Quest.

كيفية اكتشاف التزييف العميق

1. حركة العين غير الطبيعية. تعتبر حركات العين التي لا تبدو طبيعية – أو قلة حركة العين ، مثل غياب الرمش – من الأعلام الحمراء الضخمة. من الصعب تكرار فعل الوميض بطريقة تبدو طبيعية. من الصعب أيضًا تكرار حركات عين الشخص الحقيقي. هذا لأن عيون شخص ما عادة ما تتبع الشخص الذي يتحدث إليه.

2. تعابير الوجه غير الطبيعية. عندما لا يبدو شيء ما صحيحًا في الوجه ، فقد يشير ذلك إلى تحول الوجه. يحدث هذا عندما يتم خياطة صورة على أخرى.

3. تموضع محرج لميزة الوجه. إذا كان وجه شخص ما يشير في اتجاه ما وأنفه يشير إلى اتجاه آخر ، فيجب أن تكون متشككًا في مصداقية الفيديو.

4. قلة العاطفة. يمكنك أيضًا اكتشاف ما يُعرف باسم “تحوير الوجه” أو غرز الصورة إذا كان وجه شخص ما لا يظهر المشاعر التي يجب أن تتماشى مع ما يُفترض أنه يقوله.

5. الجسم أو الموقف يبدو محرجا. علامة أخرى هي أن شكل جسم الشخص لا يبدو طبيعيًا ، أو أن هناك وضعًا محرجًا أو غير متناسق للرأس والجسم. قد يكون هذا من أسهل التناقضات في اكتشافه ، لأن تقنية التزييف العميق تركز عادةً على ملامح الوجه بدلاً من الجسم كله.

6. حركة الجسم أو شكل الجسم غير الطبيعي. إذا بدا شخص ما مشوهًا أو متوقفًا عن الحركة عندما يلتفت إلى الجانب أو يحرك رأسه ، أو إذا كانت حركاته متقطعة ومفككة من إطار إلى آخر ، فيجب أن تشك في أن الفيديو مزيف.

7. تلوين غير طبيعي. إن درجة لون البشرة غير الطبيعية ، وتغير اللون ، والإضاءة الغريبة ، والظلال في غير محلها كلها علامات على أن ما تراه مزيفًا على الأرجح.

8. الشعر الذي لا يبدو حقيقيا. لن ترى الشعر المجعد أو المتطاير. لماذا؟ لن تتمكن الصور المزيفة من إنشاء هذه الخصائص الفردية.

9. الأسنان التي لا تبدو حقيقية. قد لا تكون الخوارزميات قادرة على توليد أسنان فردية ، لذا فإن غياب الخطوط العريضة للأسنان الفردية يمكن أن يكون دليلًا.

10. التعتيم أو عدم المحاذاة. إذا كانت حواف الصور ضبابية أو كانت العناصر المرئية غير محاذة – على سبيل المثال ، عندما يلتقي وجه شخص ورقبته بجسده – ستعرف أن هناك شيئًا ما غير صحيح.

11. ضجيج أو صوت غير متناسق. عادةً ما يقضي منشئو المحتوى المزيف العميق وقتًا أطول في مشاهدة صور الفيديو بدلاً من الصوت. يمكن أن تكون النتيجة ضعف مزامنة الشفاه ، أو الأصوات الآلية ، أو نطق الكلمات الغريبة ، أو ضوضاء الخلفية الرقمية ، أو حتى غياب الصوت.

12. الصور التي تبدو غير طبيعية عند إبطائها. إذا شاهدت مقطع فيديو على شاشة أكبر من هاتفك الذكي أو كان لديك برنامج لتحرير الفيديو يمكن أن يبطئ تشغيل الفيديو ، فيمكنك تكبير الصور وفحصها عن كثب. سيساعدك التكبير على الشفاه ، على سبيل المثال ، في معرفة ما إذا كانوا يتحدثون حقًا أم أنها مزامنة سيئة للشفاه.

13. تناقضات Hashtag. هناك خوارزمية تشفير تساعد منشئي الفيديو على إظهار أن مقاطع الفيديو الخاصة بهم أصلية. تُستخدم الخوارزمية لإدراج علامات التجزئة في أماكن معينة خلال مقطع فيديو. إذا تغيرت علامات التصنيف ، فيجب أن تشك في التلاعب بالفيديو.

14. البصمات الرقمية. يمكن لتقنية Blockchain أيضًا إنشاء بصمة رقمية لمقاطع الفيديو. على الرغم من أن هذا التحقق المستند إلى blockchain ليس مضمونًا ، إلا أنه يمكن أن يساعد في إثبات مصداقية الفيديو. وإليك كيف يعمل. عندما يتم إنشاء مقطع فيديو ، يتم تسجيل المحتوى في دفتر الأستاذ الذي لا يمكن تغييره. يمكن أن تساعد هذه التقنية في إثبات مصداقية الفيديو.

15. البحث عن الصور العكسي. يمكن أن يؤدي البحث عن صورة أصلية أو البحث العكسي عن الصور بمساعدة الكمبيوتر إلى اكتشاف مقاطع فيديو مماثلة عبر الإنترنت للمساعدة في تحديد ما إذا تم تغيير صورة أو صوت أو مقطع فيديو بأي شكل من الأشكال. على الرغم من أن تقنية البحث العكسي عن الفيديو ليست متاحة للجمهور بعد ، إلا أن الاستثمار في أداة مثل هذه قد يكون مفيدًا.