تم التوقيع على خطاب مفتوح جديد يدعو إلى تنظيم عاجل للتخفيف من “ مخاطر الانقراض من الذكاء الاصطناعي ” من قبل أكثر من 350 خبيرًا في الصناعة ، بما في ذلك العديد من تطوير التكنولوجيا.
البيان المكون من 22 كلمة إلى الكونجرس أن الخطوة “يجب أن تكون أولوية عالمية إلى جانب المخاطر المجتمعية الأخرى مثل الأوبئة والحرب النووية”.
تم توقيع الرسالة القصيرة من قبل الرئيس التنفيذي لشركة OpenAI Sam Altman ، مبتكر ChatGPT.
على الرغم من أن الوثيقة لا تقدم تفاصيل ، إلا أن البيان يهدف إلى إقناع صانعي السياسة بوضع خطط للحدث الذي ينتشر فيه الذكاء الاصطناعي ، تمامًا كما توجد خطط للأوبئة والحروب النووية.
انضم إلى ألتمان قادة معروفون آخرون في منظمة العفو الدولية ، بما في ذلك ديميس هاسابيس من Google DeepMind وداريو أمودي من Anthropic والمسؤولون التنفيذيون من Microsoft و Google.
ومن بينهم أيضًا جيفري هينتون ويوشوا بنجيو – اثنان من الثلاثة الذين يُطلق عليهم اسم “ عرابين الذكاء الاصطناعي ” الذين حصلوا على جائزة تورينج لعام 2018 لعملهم في التعلم العميق – وأساتذة من مؤسسات تتراوح من جامعة هارفارد إلى جامعة تسينغهوا الصينية.
تم التوقيع على الرسالة القصيرة من قبل الرئيس التنفيذي لشركة OpenAI Sam Altman ، مبتكر ChatGPT ، الذي دعا الكونجرس إلى وضع لوائح للذكاء الاصطناعي ، معترفًا بأن التكنولوجيا “ يمكن أن تسوء تمامًا ”
تم التوقيع على خطاب مفتوح جديد يدعو إلى التنظيم للتخفيف من “مخاطر الانقراض من الذكاء الاصطناعي” من قبل أكثر من 350 خبيرًا في الصناعة
نشر مركز أمان الذكاء الاصطناعي (CAIS) غير الربحي ومقره سان فرانسيسكو البيان القصير ، الذي خص Meta ، حيث يعمل الأب الثالث لمنظمة العفو الدولية ، Yann LeCun ، لعدم توقيع الخطاب.
كان Elon Musk ومجموعة من خبراء الذكاء الاصطناعي والمديرين التنفيذيين في الصناعة أول من ذكر المخاطر المجتمعية المحتملة في أبريل.
دعا ماسك وأكثر من 1000 من خبراء الصناعة إلى التوقف مؤقتًا عن “السباق الخطير” لتعزيز الذكاء الاصطناعي ، قائلين إنه يجب إجراء المزيد من تقييم المخاطر قبل أن يفقد البشر السيطرة ويصبح نوعًا حساسًا يكره الإنسان.
في هذه المرحلة ، سيكون الذكاء الاصطناعي قد وصل إلى التفرد ، مما يعني أنه تجاوز الذكاء البشري ولديه تفكير مستقل.
لن يحتاج الذكاء الاصطناعي أو يستمع إلى البشر بعد الآن ، مما يسمح له بسرقة الرموز النووية وخلق الأوبئة وإشعال حروب عالمية.
وقال كيفن باراجونا ، مؤسس شركة DeepAI ، الذي وقع الرسالة ، لموقع DailyMail.com: “ إنها أقرب إلى حرب بين الشمبانزي والبشر.
من الواضح أن البشر يفوزون لأننا أذكى بكثير ويمكننا الاستفادة من تكنولوجيا أكثر تقدمًا لهزيمتهم.
“إذا كنا مثل الشمبانزي ، فإن الذكاء الاصطناعي سوف يدمرنا ، أو سنستعبد له”.
انضم إلى ألتمان قادة معروفون آخرون في مجال الذكاء الاصطناعي ، بما في ذلك ديميس هاسابيس من Google DeepMind (في الصورة) ، وداريو أمودي من Anthropic والمديرين التنفيذيين من Microsoft و Google
وكان من بينهم أيضًا جيفري هينتون ، أحد الثلاثة الذين يُطلق عليهم اسم “عرابون الذكاء الاصطناعي” الذين حصلوا على جائزة تورينج لعام 2018 لعملهم في التعلم العميق.
تأتي مخاوف الذكاء الاصطناعي فيما يتوقع الخبراء أنه سيحقق التفرد بحلول عام 2045 ، أي عندما تتجاوز التكنولوجيا الذكاء البشري الذي لا يمكننا السيطرة عليه.
يبدو أن المخاوف بشأن الذكاء الاصطناعي قد ظهرت على السطح مع إطلاق ChatGPT في نوفمبر.
روبوت المحادثة هو نموذج لغوي كبير تم تدريبه على بيانات نصية ضخمة ، مما يسمح له بإنشاء نص يشبه الإنسان بشكل مخيف استجابةً لموجه معين.
يستخدم الجمهور ChatGPT لكتابة الأوراق البحثية والكتب والمقالات الإخبارية ورسائل البريد الإلكتروني وغيرها من الأعمال المستندة إلى النصوص ، وبينما يرى الكثيرون أنه أشبه بالمساعد الافتراضي ، فإن العديد من العقول اللامعة تعتبره نهاية الإنسانية.
في أبسط أشكاله ، يعد الذكاء الاصطناعي مجالًا يجمع بين علوم الكمبيوتر ومجموعات البيانات القوية لتمكين حل المشكلات.
تتيح هذه التقنية للآلات التعلم من التجربة والتكيف مع المدخلات الجديدة وأداء مهام شبيهة بالبشر.
خلقت التطورات الأخيرة في الذكاء الاصطناعي أدوات يقول المؤيدون إنه يمكن استخدامها في التطبيقات من التشخيص الطبي إلى كتابة الملخصات القانونية ، لكن هذا أثار مخاوف من أن التكنولوجيا يمكن أن تؤدي إلى انتهاكات الخصوصية ، وحملات تضليل السلطة ، ومشكلات في تفكير “ الأجهزة الذكية ” لأنفسهم.
استجوب المشرعون ألتمان هذا الشهر لمدة خمس ساعات حول كيف يمكن لـ ChatGPT والنماذج الأخرى إعادة تشكيل “التاريخ البشري” للأفضل أو للأسوأ ، مشبهاًة إما بالمطبعة أو بالقنبلة الذرية.
اعترف ألتمان ، الذي بدا متوهجًا وواسع العينين خلال التبادل بشأن المستقبل الذي يمكن أن يخلقه الذكاء الاصطناعي ، بأن “أسوأ مخاوفه” تتمثل في إمكانية حدوث “ضرر كبير” للعالم باستخدام تقنيته.
إذا ساءت هذه التكنولوجيا ، فقد تسوء تمامًا ، ونريد أن نكون صريحين بشأن ذلك. نريد العمل مع الحكومة لمنع حدوث ذلك.