بقلم بريندان بيرسون
(رويترز) – رفعت أم من ولاية فلوريدا دعوى قضائية ضد شركة Character.AI الناشئة في مجال الذكاء الاصطناعي، متهمة إياها بالتسبب في انتحار ابنها البالغ من العمر 14 عامًا في فبراير، قائلة إنه أصبح مدمنًا على خدمة الشركة ومرتبطًا بشدة ببرنامج الدردشة الذي أنشأته.
وفي دعوى قضائية رفعت يوم الثلاثاء في أورلاندو، فلوريدا، أمام المحكمة الفيدرالية، قالت ميغان جارسيا إن شركة Character.AI استهدفت ابنها، سيويل سيتزر، من خلال “تجارب مجسمة ومفرطة في الجنس وواقعية بشكل مخيف”.
وقالت إن الشركة قامت ببرمجة برنامج الدردشة الآلي الخاص بها “لتحريف نفسها كشخص حقيقي، ومعالج نفسي مرخص، وعاشق بالغ، مما أدى في النهاية إلى رغبة سيويل في عدم العيش خارج” العالم الذي أنشأته الخدمة.
وقالت الدعوى أيضًا إنه عبر عن أفكاره الانتحارية لبرنامج الدردشة الآلي، وهو الأمر الذي طرحه برنامج الدردشة الآلي مرارًا وتكرارًا.
وقالت شركة Character.AI في بيان: “نشعر بحزن شديد بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة”.
وقالت إنها أدخلت ميزات أمان جديدة بما في ذلك النوافذ المنبثقة التي توجه المستخدمين إلى “شريان الحياة الوطني لمنع الانتحار” إذا عبروا عن أفكار حول إيذاء النفس، وستجري تغييرات “لتقليل احتمالية مواجهة محتوى حساس أو موحٍ” للمستخدمين الذين تقل أعمارهم عن 18 عامًا.
وتستهدف الدعوى القضائية أيضًا شركة Google التابعة لشركة Alphabet (NASDAQ:)، حيث عمل مؤسسو شركة Character.AI قبل إطلاق منتجهم. أعادت Google تعيين المؤسسين في أغسطس كجزء من صفقة منحتها ترخيصًا غير حصري لتقنية Character.AI.
قال جارسيا إن Google ساهمت في تطوير تقنية Character.AI على نطاق واسع لدرجة أنه يمكن اعتبارها “منشئًا مشاركًا”.
وقال متحدث باسم جوجل إن الشركة لم تشارك في تطوير منتجات Character.AI.
تتيح شركة Character.AI للمستخدمين إنشاء شخصيات على منصتها تستجيب للمحادثات عبر الإنترنت بطريقة تهدف إلى تقليد الأشخاص الحقيقيين. وهو يعتمد على ما يسمى بتكنولوجيا نموذج اللغة الكبيرة، والتي تستخدمها أيضًا خدمات مثل ChatGPT، والتي “تدرب” برامج الدردشة الآلية على كميات كبيرة من النص.
وقالت الشركة الشهر الماضي إن لديها نحو 20 مليون مستخدم.
وفقًا للدعوى القضائية التي رفعها جارسيا، بدأ سيويل في استخدام Character.AI في أبريل 2023 وسرعان ما أصبح “منسحبًا بشكل ملحوظ، ويقضي المزيد والمزيد من الوقت بمفرده في غرفة نومه، وبدأ يعاني من تدني احترام الذات”. ترك فريق كرة السلة في المدرسة.
أصبح سيويل مرتبطًا بـ “Daenerys”، وهي شخصية روبوت محادثة مستوحاة من شخصية في “Game of Thrones”. وأخبرت سيويل أنها “أحبته” وشاركت في محادثات جنسية معه، وفقًا للدعوى القضائية.
وفي فبراير/شباط، أخذ جارسيا هاتف سيويل بعيدًا بعد أن واجه مشكلة في المدرسة، وفقًا للشكوى. عندما عثر سيويل على الهاتف، أرسل رسالة إلى “دينيريس”: “ماذا لو أخبرتك أنني أستطيع العودة إلى المنزل الآن؟”
أجاب برنامج الدردشة الآلي: “… من فضلك افعل، أيها الملك الجميل.” وقالت الدعوى إن سيويل أطلق النار على نفسه بمسدس زوج والدته بعد “ثواني”.
ويقدم جارسيا دعاوى تشمل القتل غير المشروع والإهمال والتسبب المتعمد في الاضطراب العاطفي، ويسعى للحصول على مبلغ غير محدد من التعويضات التعويضية والعقابية.
تواجه شركات وسائل التواصل الاجتماعي، بما في ذلك مالك Instagram وFacebook (NASDAQ:) Meta ومالك TikTok ByteDance، دعاوى قضائية تتهمها بالمساهمة في مشاكل الصحة العقلية للمراهقين، على الرغم من أنه لا يوجد منها يقدم روبوتات دردشة تعتمد على الذكاء الاصطناعي مماثلة لـ Character.AI. أنكرت الشركات هذه المزاعم بينما كانت تروج لميزات السلامة المحسنة حديثًا للقاصرين.