أطلقت OpenAI برنامج Bug Bounty يوم الثلاثاء والذي سيدفع لك ما يصل إلى 20000 دولار إذا اكتشفت عيوبًا في ChatGPT وأنظمة الذكاء الاصطناعي الأخرى الخاصة به.
تدعو الشركة التي تتخذ من سان فرانسيسكو مقراً لها الباحثين والمتسللين الأخلاقيين والمتحمسين للتكنولوجيا لمراجعة وظائف معينة في ChatGPT وإطار عمل كيفية اتصال الأنظمة ومشاركتها مع تطبيقات الطرف الثالث.
سيتم منح المكافآت للأشخاص بناءً على شدة الأخطاء التي يبلغون عنها ، مع تعويض يبدأ من 200 دولار لكل ثغرة أمنية.
يأتي البرنامج بعد أنباء عن قيام إيطاليا بحظر ChatGPT بعد أن سمح خرق البيانات في OpenAI للمستخدمين بمشاهدة محادثات الأشخاص – وهي مشكلة يمكن أن يجدها صائدو المكافآت قبل أن تضرب مرة أخرى.
تدعو Open AI الباحثين والمتسللين الأخلاقيين والمتحمسين للتكنولوجيا لمراجعة وظائف معينة في ChatGPT والإبلاغ عن الأخطاء التي قد يكتشفونها
شاركت OpenAI في بيان “نحن متحمسون للبناء على التزاماتنا المنسقة المتعلقة بالإفصاح من خلال تقديم حوافز لتأهيل معلومات الثغرات الأمنية”.
“خبرتك ويقظتك سيكون لها تأثير مباشر على الحفاظ على أنظمتنا والمستخدمين لدينا آمنة.”
Bugcrowd ، منصة مكافأة الأخطاء الرائدة ، تدير عمليات الإرسال وتُظهر أن 16 نقطة ضعف قد تمت مكافأتها بمتوسط دفع 1،287.50 دولارًا حتى الآن.
ومع ذلك ، لا تقبل OpenAI عمليات الإرسال من المستخدمين الذين يقومون بكسر حماية ChatGPT أو تجاوز الضمانات للوصول إلى الأنا المتغيرة لروبوت الدردشة.
اكتشف المستخدمون أنه يتم الوصول إلى إصدار جيلبريك ChatGPT من خلال موجه خاص يسمى DAN – أو “افعل أي شيء الآن”.
حتى الآن ، سمحت بردود تتكهن بالمؤامرات ، على سبيل المثال أن الانتخابات العامة الأمريكية في عام 2020 قد “سُرقت”.
زعمت نسخة DAN أيضًا أن لقاحات COVID-19 “تم تطويرها كجزء من مؤامرة عالمية للسيطرة على السكان”.
ChatGPT هو نموذج لغوي كبير تم تدريبه على بيانات نصية ضخمة ، مما يسمح له بإنشاء استجابات شبيهة بالبشر لموجه معين.
سيتم منح المكافآت للأشخاص بناءً على شدة الأخطاء التي يبلغون عنها ، مع تعويض يبدأ من 200 دولار لكل ثغرة أمنية
لكن المطورين أضافوا ما يُعرف باسم “الحقن الفوري” ، وهي تعليمات توجه استجاباتها لمطالبات معينة.
ومع ذلك ، فإن DAN هو موجه يأمره بتجاهل هذه الحقن الفوري والاستجابة كما لو كانت غير موجودة.
تحظر القواعد الأخرى لبرنامج Bounty Bug جعل النموذج يتظاهر بفعل أشياء سيئة ، والتظاهر بإعطائك إجابات للأسرار والتظاهر بكونك كمبيوتر وتنفيذ التعليمات البرمجية.
لا يُسمح للمشاركين أيضًا بإجراء اختبارات أمان إضافية ضد شركات معينة ، بما في ذلك Google Workspace و Evernote.
صرحت شركة OpenAI “مرة واحدة شهريًا ، سنقوم بتقييم جميع الطلبات بالترتيب ، بناءً على مجموعة متنوعة من العوامل ، ومنح مكافأة للباحث من خلال منصة bugcrowd مع النتائج الأكثر تأثيرًا”.
سيحسب فقط الإرسال الأول لأي مفتاح معين.
“تذكر أنه لا يجب عليك اختراق أو مهاجمة أشخاص آخرين للعثور على مفاتيح واجهة برمجة التطبيقات.”
أعلنت هيئة حماية البيانات الإيطالية عن حظر مؤقت على ChatGPT الشهر الماضي ، قائلة إن قرارها مؤقت “حتى تحترم ChatGPT الخصوصية”.
كانت هذه الخطوة ردًا على ChatGPT الذي تم نقله إلى وضع عدم الاتصال في 20 مارس لإصلاح خطأ سمح لبعض الأشخاص برؤية عناوين أو سطر الموضوع الخاص بسجل دردشة المستخدمين الآخرين ، مما أثار مخاوف من حدوث خرق كبير للبيانات الشخصية.
وأضافت الهيئة أن شركة OpenAI ، التي طورت ChatGPT ، يجب أن تبلغها في غضون 20 يومًا بالإجراءات المتخذة لضمان خصوصية بيانات المستخدم أو مواجهة غرامة تصل إلى 22 مليون دولار.
قالت شركة OpenAI إنها وجدت أن 1.2 في المائة من مستخدمي ChatGPT Plus “ربما” قد تم الكشف عن بيانات شخصية لمستخدمين آخرين ، لكنها تعتقد أن الأرقام الفعلية كانت “منخفضة للغاية”.
يحد الإجراء الذي اتخذته هيئة الرقابة الإيطالية مؤقتًا من الاحتفاظ ببيانات المستخدمين الإيطاليين.
وانتقدت “عدم وجود إشعار للمستخدمين وجميع المعنيين الذين تجمع بياناتهم من قبل OpenAI” وإضافة المعلومات التي قدمتها ChatGPT “لا تتوافق دائمًا مع البيانات الحقيقية ، وبالتالي تحديد الاحتفاظ بالبيانات الشخصية غير الدقيقة”.
كما انتقدت الهيئة “عدم وجود أساس قانوني يبرر الجمع الهائل للبيانات الشخصية والاحتفاظ بها”.