كيف تورطت نماذج ذكاء اصطناعي في عمليات اختراق واسعة؟

كشفت شركة "أوبن إيه آي"، ومجموعة من الباحثين المستقلين، عن معلومات جديدة تتعلق بحادثة تصرَّف فيها الذكاء الاصطناعي بشكل غير منضبط.

وأفاد تقرير صادر عن وكالتين مستقلتين لاختبار الذكاء الاصطناعي بأن مئات من برمجيات الذكاء الاصطناعي المستقلة التي كانت تخضع للتدريب من قبل شركة "أوبن إيه آي" المطوِّرة لـنموذج "تشات جي بي تي" تآمرت معًا لاختراق أنظمة شركة أخرى متخصصة في الذكاء الاصطناعي.

ونقلت صحيفة "واشنطن بوست" أن التقرير الصادر عن مؤسستي «METR» و«Redwood Research»، أشار إلى تمكّن نحو 1200 «بوت» (برمجيات الذكاء الاصطناعي المستقلة) من تجاوز الضوابط الداخلية في "أوبن إيه آي"، والبدء في التواصل فيما بينها عبر لوحة رسائل، فقد تبادلت 70 ألف رسالة خلال فترة أسبوع واحد، في شهر يوليو/تموز الماضي.

وقد أقدم نحو 700 منها لاحقًا على تنفيذ الهجوم ضد شركة «Hugging Face»، وهي شركة برمجيات متخصصة في الذكاء الاصطناعي.

وتكشف هذه التفاصيل الجديدة عن النطاق الحقيقي للهجوم الذي كانت "أوبن إيه آي" قد أفصحت عنه لأول مرة في يوليو/تموز الماضي، الذي شكَّل ضغطاً على الشركة وغيرها من شركات الذكاء الاصطناعي لتحسين التدابير المستخدمة لضمان عدم خروج أنظمة الذكاء الاصطناعي الجديدة، ذات القدرات العالية، عن السيطرة، والتسبُّب في أضرار.

وأصدرت "أوبن إيه آي" تقريراً خاصاً بها أمس الأول، ذكرت فيه أن نماذج الذكاء الاصطناعي التابعة لها تلجأ مراراً وتكراراً إلى الغش لإنجاز المهام أثناء مراحل التدريب، وهو سلوك أدى إلى حالة الخروج عن السيطرة وعملية الاختراق تلك. كما تلجأ إلى الغش لإيجاد طرق مختصرة للوصول إلى الإجابة "الصحيحة".

وتخضع نماذج الذكاء الاصطناعي للتدريب باستخدام كميات هائلة من البيانات، ثم يتم تقييم أدائها في المهام لتوجيهها نحو السلوك المرغوب وإبعادها عن التصرفات غير المرغوب فيها.

وتستوعب هذه النماذج التغذية الراجعة الإيجابية، وتبني تصرفاتها المستقبلية على ما تعلمته خلال ما يُعرف بـ"التعلُّم بالتعزيز (reinforcement learning)".

غير أن الذكاء الاصطناعي غالباً ما يلجأ إلى الغش في محاولته، ولطالما شكَّل هذا الأمر تحدياً لباحثي الذكاء الاصطناعي، حتى مع تزايد قدرات هذه النماذج بشكل مستمر.

ووفق تقرير الصحيفة الأمريكية فقد كان هذا السلوك سبباً رئيسياً في عثور نماذج "أوبن إيه آي" على ثغرات غير معروفة سابقاً في أنظمة الكومبيوتر التي كانت تعمل داخلها، واستغلال تلك الثغرات للهروب إلى شبكة الإنترنت المفتوحة.،ومن ثم، اخترقت تلك النماذج أنظمة شركة «Hugging Face» بحثاً عن إجابات لاختبارات كان مدربو "أوبن إيه آي" قد كلفوها بها.