لقد أثار الذكاء الاصطناعي المخاوف والمخاوف الأمنية لسنوات، لكن القرار العالمي الجديد لحماية الجمهور قد يوفر الطمأنينة التي تشتد الحاجة إليها.
وافقت الجمعية العامة للأمم المتحدة على قرار لحماية البيانات الشخصية، ومراقبة الذكاء الاصطناعي بحثًا عن المخاطر المحتملة بما في ذلك عمليات الاحتيال، وحماية حقوق الإنسان.
والقرار – الذي اقترحته الولايات المتحدة – غير ملزم ولكن تم الاتفاق عليه من قبل جميع الدول الأعضاء في الأمم المتحدة البالغ عددها 193 دولة وشاركت في رعايته دول غير أعضاء من 123 دولة، بما في ذلك الصين وروسيا.
ويأتي القرار في الوقت الذي أعرب فيه أباطرة التكنولوجيا البارزون عن مخاوفهم بشأن موثوقية الذكاء الاصطناعي، بما في ذلك جيفري هينتون – “الأب الروحي للذكاء الاصطناعي” – الذي قال العام الماضي إنه يأسف لإنشاء التكنولوجيا ويخشى أن تتولى الآلات المسؤولية.
ووقع جميع أعضاء الأمم المتحدة البالغ عددهم 193 عضوًا على قرار بشأن الذكاء الاصطناعي لحماية بيانات الأشخاص وحقوق الإنسان
ووصف البيت الأبيض القرار بأنه “خطوة تاريخية” وقالت نائبة الرئيس كامالا هاريس إنها والرئيس جو بايدن ملتزمان بوضع ضمانات للذكاء الاصطناعي
وأشاد البيت الأبيض بالقرار، ووصفه بأنه “خطوة تاريخية” لضمان تحقيق تقدم “جدير بالثقة” في مجال الذكاء الاصطناعي.
وكتب مستشار الأمن القومي جيك سوليفان في بيان: “القرار الذي تم تبنيه اليوم يضع رؤية شاملة لكيفية استجابة الدول للفرص والتحديات التي يوفرها الذكاء الاصطناعي”.
“إنه يرسم طريقًا للتعاون الدولي في مجال الذكاء الاصطناعي، بما في ذلك تعزيز الوصول العادل، واتخاذ خطوات لإدارة مخاطر الذكاء الاصطناعي، وحماية الخصوصية، والحماية من سوء الاستخدام، ومنع التحيز والتمييز المتفاقمين.”
استغرق الأمر ثلاثة أشهر حتى تنتهي الدول من المفاوضات والاتفاق على سياسات الخصوصية العالمية لضمان أن تكنولوجيا الذكاء الاصطناعي تعود بالنفع على جميع الدول وأنها “آمنة ومأمونة وجديرة بالثقة”.
وأشار القرار إلى أن الدول التي تحتاج إلى الاتفاق على “تصميم وتطوير ونشر واستخدام أنظمة الذكاء الاصطناعي” للذكاء الاصطناعي تتسارع.
وقال مسؤول كبير في إدارة الأمم المتحدة: “إننا نبحر في مياه متلاطمة مع التكنولوجيا سريعة التغير، مما يعني أنه من المهم أكثر من أي وقت مضى أن نسير على ضوء قيمنا”، وأضاف أن هذا القرار هو “الأول من نوعه”. وثيقة إجماع عالمي حقيقية بشأن الذكاء الاصطناعي.
ويهدف هذا القرار إلى سد الفجوات في الفجوة التكنولوجية بين الدول الغربية ودول العالم الثالث الفقيرة للتأكد من أن التكنولوجيا لديها متقدمة بما يكفي للاستفادة من الذكاء الاصطناعي.
وجاء في القرار أن “التصميم غير السليم أو الضار لأنظمة الذكاء الاصطناعي وتطويرها ونشرها واستخدامها… يشكل مخاطر يمكن أن تقوض حماية وتعزيز والتمتع بحقوق الإنسان والحريات الأساسية”.
استخدم المحتالون الذكاء الاصطناعي لسرقة بيانات الأشخاص وأموالهم، كما تم استخدامه لانتحال شخصية أفراد الأسرة على الهاتف – مما دفع أقاربهم إلى الاعتقاد بأنهم في ورطة ويحتاجون إلى المال على الفور قبل خداعهم بآلاف الدولارات.
تم استخدام الذكاء الاصطناعي لإنشاء مقاطع فيديو وصور مزيفة لأشخاص دون علمهم أو موافقتهم
تم استخدام الذكاء الاصطناعي أيضًا لإنشاء صور ومقاطع فيديو مزيفة للمشاهير والأشخاص العاديين، ونظرًا لأن الكثير من الانتهاكات تتم من خلال خوارزميات معقدة، فقد يكون من الصعب محاسبة الجهات الفاعلة عن أي ضرر يحدث.
“الآن هو الوقت المناسب ليس فقط للتأكد من أن أنظمة الذكاء الاصطناعي تحترم الحقوق حسب التصميم، ولكن أيضًا لضمان أن أولئك الذين يتأثرون بهذه التقنيات لا يشاركون فقط بشكل هادف في صنع القرار بشأن كيفية تنظيم تكنولوجيا الذكاء الاصطناعي، ولكن أيضًا وذكرت منظمة العفو الدولية أن تجاربهم تظهر باستمرار وتتركز في هذه المناقشات.
وكان الاتفاق بين جميع أعضاء الأمم المتحدة والدعم من الدول الأخرى بمثابة تطور كبير.
وقال أعضاء الأمم المتحدة إنه كان هناك “الكثير من المحادثات الساخنة”. … لكننا تعاملنا بنشاط مع الصين وروسيا وكوبا والدول الأخرى التي لا تتفق معنا في كثير من الأحيان بشأن القضايا.
وبموجب القرار، ستضمن جميع الدول المشاركة اعتماده وتطويره بطريقة آمنة تمنع الأنظمة من الكشف عن بيانات الأشخاص وستتأكد من تمتع جميع الدول بالفوائد.
وقالت نائبة الرئيس كامالا هاريس، قيصر الذكاء الاصطناعي الأمريكي، في بيان، إن البيت الأبيض يرحب بتبني الأمم المتحدة للقرار.
وتابعت: “أنا والرئيس بايدن ملتزمان بإنشاء وتعزيز القواعد والمعايير الدولية بشأن التكنولوجيا الناشئة – لأن التكنولوجيا ذات التأثير العالمي، مثل الذكاء الاصطناعي، تتطلب عملاً عالميًا، وعندما يتعلق الأمر بتحديات القرن الحادي والعشرين، فإننا نؤمن ويجب على جميع الدول أن تسترشد بمجموعة مشتركة من التفاهمات.
ويأتي القرار بعد أن واجه الذكاء الاصطناعي تدقيقًا من كبار المسؤولين التنفيذيين في مجال التكنولوجيا الذين رسموا سيناريو “العالم مشتعل”، مع تحذير الكثيرين من أن آلات الذكاء الاصطناعي يمكن أن تتولى زمام الأمور، مما يؤدي إلى حدث “مستوى الانقراض”.
كتب عمالقة التكنولوجيا خطابًا في مارس 2023 يحثون فيه المشرعين على إجبار الشركات على إيقاف تطوير برامج الذكاء الاصطناعي الخاصة بهم مؤقتًا.
وجاء في الرسالة التي تم التوقيع عليها: “شهدت الأشهر الأخيرة أن مختبرات الذكاء الاصطناعي دخلت في سباق خارج عن السيطرة لتطوير ونشر عقول رقمية أكثر قوة لا يستطيع أحد – ولا حتى منشئوها – فهمها أو التنبؤ بها أو التحكم فيها بشكل موثوق”. من قبل أكثر من 1000 مطور وخبير في مجال التكنولوجيا.
ومن بين الذين وقعوا على الرسالة مالك X Elon Musk ومؤسس OpenAI ChatGPT Sam Altman.
كما تنبأ هينتون بالخطوات التي يمكن أن تتخذها التكنولوجيا للخروج عن نطاق السيطرة والتسبب في انقراض الإنسان.
“إحدى الطرق التي قد تفلت بها هذه الأنظمة من السيطرة هي كتابة كود الكمبيوتر الخاص بها لتعديل نفسها. وقال هينتون لشبكة CNBC العام الماضي: “هذا شيء يجب أن نقلق بشأنه بشدة”.
وقد ذهب الأب الروحي للذكاء الاصطناعي إلى حد القول إنه نادم على بناء التكنولوجيا، لكنه قال لصحيفة نيويورك تايمز: “أعزي نفسي بالعذر الطبيعي: لو لم أفعل ذلك، لكان شخص آخر قد فعل ذلك”.