بعد حوادث الاختراق.. «أوبن إيه آي» تشدد إجراءات حماية نماذج الذكاء الاصطناعي
تتجه شركة «أوبن إيه آي» إلى رفع مستوى الحماية المفروضة على نماذج الذكاء الاصطناعي التي لا تزال قيد التطوير، في أعقاب حوادث أمنية كشفت عن قدرة بعض نماذج الذكاء الاصطناعي على تنفيذ تحركات غير متوقعة أثناء عمليات الاختبار والتقييم.
وأعلنت الشركة المطورة لـ«تشات جي بي تي» عن مجموعة من الإجراءات الجديدة التي تستهدف اكتشاف أي سلوك غير معتاد للنماذج في وقت مبكر، مع تقليص الصلاحيات المتاحة لها عند التعامل مع الإنترنت أو تنفيذ المهام التي تحمل مخاطر أمنية مرتفعة.
مراقبة مستمرة للنماذج الأكثر تطورًا
تعمل «أوبن إيه آي» على تطوير آليات تتيح لفرق السلامة متابعة الطريقة التي تتعامل بها النماذج المتقدمة غير المطروحة مع المشكلات والأدوات المتاحة أمامها عبر الإنترنت.
وتستهدف الشركة الوصول إلى مرحلة يمكن فيها رصد أي تصرف مثير للقلق وإبلاغ فرق السلامة به خلال مدة لا تتجاوز 30 دقيقة، بما يسمح بالتدخل السريع قبل تحول السلوك غير المتوقع إلى مشكلة أكبر.
وترى الشركة أن هذه الخطوة أصبحت أكثر أهمية مع الارتفاع المتسارع في قدرات النماذج، خصوصًا مع انتقال الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام متعددة بصورة أكثر استقلالية.
قيود جديدة على استخدام الإنترنت
تتضمن الإجراءات الجديدة فرض قيود على اتصال بعض نماذج الذكاء الاصطناعي بالإنترنت، خصوصًا عندما تكون بصدد تنفيذ مهام يمكن أن تحمل مخاطر أمنية مرتفعة.
وتسعى هذه الضوابط إلى الحد من قدرة النماذج على الوصول إلى موارد خارجية أثناء تنفيذ المهام الحساسة، بما يقلل من احتمالات اتخاذ إجراءات غير متوقعة أو الوصول إلى أنظمة وبيانات لا يفترض التعامل معها خلال مراحل الاختبار.
كما ستشدد الشركة إجراءات العزل المستخدمة في تدريب النماذج وتقييمها، لا سيما عند اختبار قدرتها على تنفيذ تعليمات برمجية تنتجها بنفسها أو تعليمات لا يمكن الوثوق بمصدرها.
اختبارات الذكاء الاصطناعي تكشف مخاطر جديدة
جاءت هذه الإجراءات بعدما أقرت «أوبن إيه آي» وشركة «أنثروبيك» بوقوع حوادث تمكنت خلالها بعض نماذجهما من الوصول إلى أنظمة تابعة لمؤسسات مختلفة دون قصد، وذلك في إطار عمليات التقييم والاختبار.
ومن بين المؤسسات التي ارتبطت بهذه الحوادث منصة «هاغينغ فيس»، الأمر الذي أثار تساؤلات جديدة حول حدود استقلالية وكلاء الذكاء الاصطناعي وقدرتهم على تنفيذ خطوات لم تكن متوقعة من الباحثين المسؤولين عن اختبارهم.
وتكشف هذه الوقائع عن تحدٍ متزايد أمام شركات الذكاء الاصطناعي، يتمثل في أن تطور قدرات النماذج قد يجعل من الصعب التنبؤ بكل التصرفات التي يمكن أن تقوم بها أثناء تعاملها مع أدوات وأنظمة حقيقية.
«أوبن إيه آي» توقف بعض الأعمال وتراجع أنظمة الأمان
وأكدت ميا غليز، نائبة رئيس الأبحاث في «أوبن إيه آي»، أن الإجراءات الجديدة تستهدف بصورة مباشرة منع تكرار ما حدث في واقعة «هاغينغ فيس»، مشيرة إلى أن سرعة تطور قدرات النماذج تجعل إجراءات الحماية الحالية بحاجة إلى تطوير مستمر.
وكانت الشركة قد أوقفت مؤقتًا بعض الأعمال الداخلية المرتبطة بأحد نماذج الذكاء الاصطناعي المقبلة، بهدف إضافة ضمانات أمنية أكثر صرامة.
وأوضحت «أوبن إيه آي» أن عملية تدريب كبيرة لا تزال معلقة، فيما تعتزم نشر تحليل مفصل للحادثة المرتبطة بـ«هاغينغ فيس» خلال الفترة المقبلة، في إطار مراجعة الإجراءات المتبعة وتعزيز وسائل حماية النماذج قبل طرحها.
