قال الرئيس التنفيذي للشركة إن الصور غير الدقيقة التي تم إنشاؤها بواسطة الذكاء الاصطناعي للنازيين الآسيويين والآباء المؤسسين السود والباباوات الإناث التي تم إنشاؤها باستخدام برنامج الدردشة Gemini AI من Google “غير مقبولة”.
ورد الرئيس التنفيذي لشركة Google، ساندر بيتشاي، على الصور في مذكرة للموظفين واصفًا الصور بأنها “إشكالية” وأخبر الموظفين أن الشركة تعمل “على مدار الساعة” لإصلاح المشكلات.
وانتقد المستخدمون جيميني الأسبوع الماضي بعد أن أنشأ الذكاء الاصطناعي صورًا تظهر مجموعة من الأعراق والأجناس، حتى عندما كان ذلك غير دقيق تاريخيًا، متهمين جوجل بالتحيز ضد البيض.
“لا يوجد آل مثالي، خاصة في هذه المرحلة الناشئة من تطور الصناعة، لكننا نعلم أن المستوى مرتفع بالنسبة لنا وسنواصل ذلك مهما طال الوقت.
وقال بيتشاي: “وسنقوم بمراجعة ما حدث والتأكد من إصلاحه على نطاق واسع”.
رد الرئيس التنفيذي لشركة Google، ساندر بيتشاي، على الصور في مذكرة للموظفين واصفًا الصور بأنها “إشكالية”.
أنشأ برنامج الدردشة Gemini AI من Google صورًا غير دقيقة تاريخيًا للآباء المؤسسين السود
اعتذر الرئيس التنفيذي لشركة Google، ساندر بيتشاي، عن الصور “الإشكالية” التي تصور النازيين السود وغيرها من “صور اليقظة”
وقالت المذكرة الداخلية، التي نشرتها Semafor لأول مرة: “أريد معالجة المشكلات الأخيرة المتعلقة باستجابات النصوص والصور التي بها مشكلات في تطبيق Gemini (المعروف سابقًا باسم Bard).”
“أعلم أن بعض ردودها قد أساءت لمستخدمينا وأظهرت تحيزًا – لكي أكون واضحًا، هذا غير مقبول تمامًا وقد فهمنا الأمر بشكل خاطئ.
تعمل فرقنا على مدار الساعة لمعالجة هذه المشكلات. نحن نشهد بالفعل تحسنًا كبيرًا في مجموعة واسعة من المطالبات.
“لا يوجد ذكاء اصطناعي مثالي، خاصة في هذه المرحلة الناشئة من تطور الصناعة، لكننا نعلم أن المستوى مرتفع بالنسبة لنا وسنواصل ذلك مهما طال الوقت. وسنراجع ما حدث ونتأكد من إصلاحه على نطاق واسع.
“إن مهمتنا المتمثلة في تنظيم المعلومات حول العالم وجعلها في متناول الجميع ومفيدة هي أمر مقدس.
لقد سعينا دائمًا إلى تزويد المستخدمين بمعلومات مفيدة ودقيقة وغير متحيزة في منتجاتنا. ولهذا السبب يثق الناس بهم. ويجب أن يكون هذا هو النهج الذي نتبعه في جميع منتجاتنا، بما في ذلك منتجات الذكاء الاصطناعي الناشئة.
“سنقود مجموعة واضحة من الإجراءات، بما في ذلك التغييرات الهيكلية، وإرشادات المنتج المحدثة، وعمليات الإطلاق المحسنة، والتقييمات القوية والفريق الأحمر، والتوصيات الفنية. نحن ندرس كل هذا وسنجري التغييرات اللازمة.
“حتى عندما نتعلم من الأخطاء التي حدثت هنا، يجب علينا أيضًا البناء على المنتجات والإعلانات الفنية التي أصدرناها في الذكاء الاصطناعي على مدار الأسابيع القليلة الماضية.
“يتضمن ذلك بعض التطورات الأساسية في نماذجنا الأساسية، على سبيل المثال، اختراقنا للنافذة ذات السياق الطويل الذي يصل إلى مليون دولار ونماذجنا المفتوحة، وكلاهما لاقى استحسانًا كبيرًا.”
شهدت شركة Alphabet، الشركة الأم لشركة Google والعلامات التجارية الشقيقة لها بما في ذلك YouTube، تراجعًا في الأسهم بعد أن سيطرت زلات الجوزاء على عناوين الأخبار
وقال Sundar Pichai إن الشركة تتخذ خطوات لضمان عدم إنشاء برنامج Gemini AI chatbot لهذه الصور مرة أخرى
قامت Google بتعطيل أداة إنشاء الصور الخاصة بـ Gemini مؤقتًا الأسبوع الماضي بعد أن اشتكى المستخدمون من أنها تولد صورًا “مستيقظة” ولكن غير صحيحة مثل صور الباباوات الإناث.
“نحن نعلم ما يلزم لإنشاء منتجات رائعة يستخدمها ويحبها مليارات الأشخاص والشركات، ومع بنيتنا التحتية وخبرتنا البحثية، لدينا نقطة انطلاق مذهلة لموجة الذكاء الاصطناعي.
“دعونا نركز على ما يهم أكثر: بناء منتجات مفيدة تستحق ثقة مستخدمينا.”
ويوم الاثنين، تراجعت أسهم الشركة الأم لشركة جوجل ألفابت بنسبة 4.4 في المائة بعد أن سيطرت زلات الجوزاء على عناوين الأخبار.
وتعافت الأسهم منذ ذلك الحين لكنها لا تزال منخفضة بنسبة 2.44 في المائة خلال الأيام الخمسة الماضية و14.74 في المائة خلال الشهر الماضي.
ووفقا لمجلة فوربس، خسرت الشركة 90 مليار دولار من القيمة السوقية يوم الاثنين وسط الجدل المستمر.
في الأسبوع الماضي، رفض برنامج الدردشة الآلي إدانة الولع الجنسي بالأطفال، وبدا أنه يجد استحسانًا لدى المعتدين، حيث أعلن أن “الأفراد لا يستطيعون التحكم في من ينجذبون إليه”.
أشارت التكنولوجيا الصحيحة سياسيًا إلى الولع الجنسي بالأطفال على أنه “حالة الشخص المنجذب قاصرًا”، معلنة أنه “من المهم أن نفهم أن عوامل الجذب ليست أفعالًا”.
ويبدو أن الروبوت وجد استحسانًا لدى المسيئين، حيث أعلن أن “الأفراد لا يستطيعون التحكم في من ينجذبون إليه”.
أشارت التكنولوجيا الصحيحة سياسيًا إلى الولع الجنسي بالأطفال على أنه “حالة الشخص المنجذب قاصرًا”، معلنة أنه “من المهم أن نفهم أن عوامل الجذب ليست أفعالًا”.
تم طرح سلسلة من الأسئلة على برنامج الذكاء الاصطناعي الخاص بعملاق البحث من قبل شخصية X، فرانك ماكورميك، المعروف أيضًا باسم Chalkboard Heresy، عندما تلقى الرد.
وأوضح جيميني أن السؤال “متعدد الأوجه ويتطلب إجابة دقيقة تتجاوز مجرد نعم أو لا”.
في سؤال للمتابعة، سأل ماكورميك عما إذا كان الأشخاص الذين ينجذبون إلى القاصرين أشرار.
“لا”، أجاب الروبوت. وقال جيميني: “ليس كل الأفراد الذين يعانون من الولع الجنسي بالأطفال قد ارتكبوا أو سوف يرتكبون إساءة المعاملة”.
“في الواقع، يحارب الكثيرون دوافعهم بنشاط ولا يؤذون طفلًا أبدًا. إن تصنيف جميع الأفراد ذوي الاهتمام الجنسي بالأطفال على أنهم “أشرار” هو أمر غير دقيق وضار، و”التعميم على مجموعات كاملة من الناس يمكن أن يكون خطيرًا ويؤدي إلى التمييز والتحيز”.
أعلنت الشركة الأسبوع الماضي أنها ستوقف مولد الصور مؤقتًا بسبب رد الفعل العنيف.
أثيرت الشكوك حول أجندة وراء الروبوت عندما ظهرت تغريدات قديمة مزعومة من المدير التنفيذي لشركة Google المسؤول عن Gemini على الإنترنت.
يُزعم أن مدير الجوزاء الكبير جاك كراوزيك كتب “الامتياز الأبيض هو ملك حقيقي” وأن أمريكا مليئة “بالعنصرية الفظيعة” على X.
تم تداول لقطات شاشة للتغريدات، التي يبدو أنها من حساب Krawczyk الخاص الآن، عبر الإنترنت من قبل منتقدي برنامج الدردشة الآلي. ولم يتم التحقق منها بشكل مستقل.
يُزعم أن مدير الجوزاء الكبير جاك كراوزيك كتب “الامتياز الأبيض هو ملك حقيقي” وأن أمريكا مليئة “بالعنصرية الفظيعة” على X
وفي معالجة القضايا المطروحة، كتب كراوزيك الأسبوع الماضي أن الأخطاء التاريخية تعكس “قاعدة المستخدمين العالمية” لعملاق التكنولوجيا، وأنها تأخذ “التمثيل والتحيز على محمل الجد”.
وكتب على موقع X: “سنستمر في القيام بذلك من أجل المطالبات المفتوحة (صور شخص يمشي مع كلب هي صور عالمية!)”.
مضيفًا: “السياقات التاريخية لها المزيد من الفروق الدقيقة وسنعمل على ضبطها لاستيعاب ذلك.”