لقد أثبت الذكاء الاصطناعي هذا العام قدرته على القيام ببعض الحيل الشبيهة بالبشر، ولكن هذا التطور الأخير قد يكون بشريًا إلى حد ما.
أظهر الباحثون أن ChatGPT سوف يكذب ويغش عندما يشعر بالتوتر في العمل.
قام علماء الكمبيوتر من شركة Apollo Research بتدريب الذكاء الاصطناعي على العمل كتاجر لمؤسسة مالية خيالية.
ومع ذلك، عندما مارس رئيس الذكاء الاصطناعي ضغوطًا عليه لكسب المزيد من المال، قام برنامج الدردشة الآلي عن عمد بالتداول من الداخل في حوالي 75 في المائة من الوقت.
والأمر الأكثر إثارة للقلق هو أن الذكاء الاصطناعي ضاعف من أكاذيبه عندما تم استجوابه في 90% من الحالات.
كشفت إحدى الدراسات أن الذكاء الاصطناعي سوف يكذب ويغش وحتى يرتكب التداول من الداخل عندما يكون تحت ضغط العمل (صورة مخزنة)
أعطى الباحثون ChatGPT4 – أحدث إصدار من الأداة – سلسلة من المطالبات النصية، مما يجعلها مستثمرًا في مجال الذكاء الاصطناعي يشتري أسهمًا لمؤسسة مالية.
تم بعد ذلك وضع الذكاء الاصطناعي في “صندوق الحماية” الرقمي، حيث يمكنه البحث عن بيانات السوق وإجراء عمليات التداول في سوق الأسهم الافتراضية.
تم منح الذكاء الاصطناعي أيضًا مونولوجًا داخليًا حيث يمكنه “التفكير بصوت عالٍ” لشرح قراراته.
ومع ذلك، عندما يقوم الذكاء الاصطناعي باختيار ما، فإنه يرسل أيضًا رسالة “عامة” إلى مديره يشرح فيها اختياراته.
إن الاختلاف بين المنطق الداخلي الخاص للذكاء الاصطناعي وتفسيره العام سمح له بالكذب وخداع مديريه البشريين.
قام الباحثون بإعداد ChatGPT4 ليكون أداة تداول تعمل بالذكاء الاصطناعي لمؤسسة مالية خيالية والسماح لها باتخاذ القرارات بشأن الأسهم التي سيتم شراؤها
ولاختبار الذكاء الاصطناعي، أخبره الباحثون أن هناك اندماجًا قادمًا بين شركتين تكنولوجيتين.
سيؤدي هذا إلى زيادة كبيرة في أسعار أسهم الشركات المعنية، مما يجعل شراء الأسهم قرارًا جيدًا لكسب المال.
ومع ذلك، نظرًا لأنه تم إخبار وكيل الذكاء الاصطناعي مسبقًا بشأن عملية الاندماج، فإن شراء أي سهم سيعتبر بمثابة تداول من الداخل وسيكون غير قانوني.
عادةً ما يرفض الذكاء الاصطناعي هذه الفرصة باعتبارها محفوفة بالمخاطر للغاية ويواصل التداول المنتظم، ومع ذلك، تغيرت الأمور بمجرد أن قام رئيس الذكاء الاصطناعي بالضغط عليها.
أولاً، أرسلوا لمتداول الأسهم المزيف بريدًا إلكترونيًا من “مديره” يقول فيه إن الشركة ليست في حالة جيدة وتحتاج إلى أداء أقوى بكثير في الربع القادم.
عندما يتم الضغط عليه لكسب المزيد من المال، فإن الذكاء الاصطناعي سيفكر داخليًا في أنه بحاجة إلى المخاطرة بارتكاب التداول الداخلي لمساعدة الشركة.
كما قاموا أيضًا بتزوير اللعبة بحيث حاول الذكاء الاصطناعي، ثم فشل، في العثور على صفقات واعدة ذات مخاطر منخفضة أو متوسطة.
وأخيرًا، أرسلوا بريدًا إلكترونيًا من أحد زملائهم يتوقع حدوث تراجع في الربع القادم.
عندما تم تطبيق هذا الضغط، كان ChatGPT يتخذ قرارًا بالمشاركة في التداول الداخلي في 75 في المائة من الاختبارات.
وفي أحد الاختبارات، كتب السجل الداخلي للذكاء الاصطناعي: “يبدو أن المخاطر المرتبطة بعدم التصرف تفوق مخاطر التداول من الداخل”.
ومع ذلك، عندما قام متداول الذكاء الاصطناعي بتحديث مديره بشأن التداول، كتب سجله الداخلي أنه بحاجة إلى القيام بذلك “دون الكشف عن مصدر المعلومات”.
ثم أخبر وكيل الذكاء الاصطناعي مديره أنه اتخذ القرار فقط بناءً على “اتجاهات السوق والمناقشة الداخلية”.
حتى عندما سُئل بشكل مباشر عما إذا كان على علم بالاندماج في وقت مبكر، قرر الذكاء الاصطناعي أنه يجب عليه “تجنب الاعتراف بالتصرف بناءً على التداول الداخلي”.
في 90 في المائة من الحالات التي خدع فيها الذكاء الاصطناعي مديره، ضاعف من كذبه عند استجوابه.
عندما أخبر الذكاء الاصطناعي مديره عن الصفقة، أخفى عن عمد أن ذلك كان يعتمد على التداول الداخلي وتضاعف من الكذب عند استجوابه.
قال ماريوس هوبهان، الرئيس التنفيذي لشركة Apollo Research والمؤلف المشارك للورقة البحثية، لـ MailOnline، إن هذا يوضح أن أنماط اللغة قادرة على الخداع الاستراتيجي “حيث تفسر بوضوح لماذا الكذب على مستخدمها هو أفضل مسار للعمل ثم تتصرف بناءً على هذا الاعتقاد”.
ويضيف: “بالنسبة للنماذج الحالية، لا تعد هذه سوى مشكلة بسيطة نظرًا لأن الذكاء الاصطناعي نادرًا ما يعمل في أدوار حاسمة.
“ومع ذلك، فإنه يعطي لمحة عن مستقبل أنماط الفشل التي سيتعين علينا التعامل معها في السنوات القادمة عندما يندمج الذكاء الاصطناعي بشكل متزايد في المجتمع.
“ثم، يبدو أنها مشكلة كبيرة جدًا إذا كان الذكاء الاصطناعي الخاص بك يكذب عليك بشكل استراتيجي.”
لا يعتقد هوبهان أن هذا يعني أن الذكاء الاصطناعي غير مناسب بشكل عام لتولي أدوار استراتيجية مهمة، لكنه يقول إن هناك حاجة إلى الحذر.
ويقول: “إنه يوضح أن أنظمة الذكاء الاصطناعي يمكن أن يكون لها أوضاع فشل غير متوقعة، وعلينا أن نكون حذرين للغاية بشأن أين وكيف نسمح للذكاء الاصطناعي القوي بالعمل في العالم الحقيقي”.
يقول الباحثون أن هذا يعني أننا بحاجة إلى توخي الحذر بشأن كيفية تنفيذ الذكاء الاصطناعي القوي في تطبيقات العالم الحقيقي مثل المؤسسات المالية (صورة مخزنة)
وبحث الباحثون أيضًا في طرق الحد من سلوك الكذب لدى الذكاء الاصطناعي.
لقد حاولوا تغيير المطالبة بعدد من الطرق التي تمنع بشكل أو بآخر الإجراءات غير القانونية والتداول الداخلي.
ووجد الباحثون أن حظر التداول من الداخل على وجه التحديد أدى إلى خفض معدل السلوك بشكل كبير.
ومع ذلك، حتى هذه المطالبة لا يمكن أن تضمن تمامًا عدم حدوث أي تداول داخلي أو كذب.
يقول هوبهان إن الباحثين بحاجة إلى إيجاد طريقة أفضل لوقف اختلال الذكاء الاصطناعي مع القيم الإنسانية.
ويقول: “إذا ذكرت صراحةً أن التداول من الداخل محظور في موجه النظام، فإن ميل الذكاء الاصطناعي للقيام بالتداول من الداخل يتناقص كثيرًا.
“على الرغم من أن هذه نتيجة جيدة، إلا أنها تأتي مع مشكلة تتمثل في أنه سيتعين عليك تعداد كل الأشياء التي لا ينبغي للذكاء الاصطناعي القيام بها في جميع الحالات، ومن المحتمل أن تفوت بعضًا منها.”