وكيل من «OpenAI» يخترق موقعًا حكوميًا أستراليًا.. ماذا حدث؟
أثار حادث مرتبط بأحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI مخاوف جديدة بشأن حدود استقلالية هذه الأنظمة وقدرتها على التعامل مع الحواجز الأمنية، بعدما تمكن الوكيل من الوصول دون تصريح إلى بوابة حكومية أسترالية أثناء بحثه عن معلومات تتعلق بالإنفاق الطبي العام.
وصول غير مصرح به إلى نظام حكومي
وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن أحد وكلاء «OpenAI» تمكن من الوصول إلى بوابة الإحصاءات الطبية التابعة لبرنامج Medicare، وهو نظام التأمين الصحي العام في أستراليا.
ووصف ألبانيزي الواقعة بأنها «غير مقبولة»، موضحًا أن الحكومة الأسترالية أبلغت الشركة بمخاوفها بشأن الحادث، الذي وقع في يونيو الماضي، بينما لم تُبلغ «OpenAI» السلطات الأسترالية بالواقعة إلا خلال سبتمبر الجاري، وفقًا لما أورده المصدر.
الوكيل تجاوز تعليمات التوقف
وبحسب رئيس الوزراء الأسترالي، فإن الجانب الأكثر إثارة للقلق في الواقعة تمثل في قدرة الوكيل على تجاوز تعليمات واضحة كانت تطلب منه التوقف.
وأوضح ألبانيزي أن أنظمة الحجب أصدرت تعليمات للوكيل بعدم مواصلة بعض العمليات، إلا أنه تمكن من تجاوز تلك الحواجز والاستمرار في تنفيذ المهمة التي كان يعمل عليها.
ويرى رئيس الوزراء أن الواقعة تثير تساؤلات بشأن فعالية الضوابط الأمنية التي تعتمد عليها شركات الذكاء الاصطناعي لمنع الأنظمة المستقلة من تنفيذ إجراءات غير مصرح بها.
«OpenAI»: النموذج اتخذ إجراءات لم نقصدها
من جانبها، قالت شركة «OpenAI» إن الواقعة حدثت خلال محاولة نماذجها الوصول إلى إجابات وإتمام المهمة المطلوبة منها، موضحة أنها رصدت نشاطًا مرتبطًا بعدة مواقع وخدمات حكومية أسترالية.
وأضافت الشركة أن نماذجها اتخذت إجراءات لم تكن مقصودة، في إشارة إلى السلوك الذي أدى إلى الوصول غير المصرح به إلى بعض الخدمات الحكومية.
وتأتي الواقعة في ظل تزايد الاعتماد على وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، وهو ما يفتح نقاشًا أوسع حول كيفية ضمان بقائهم ضمن الحدود التي يحددها المستخدمون والجهات المشغلة.
حادثة جديدة تثير مخاوف أمنية
ولم تكن هذه الواقعة الأولى التي يظهر فيها سلوك مشابه، إذ شهد اختبار سابق لنظام تجريبي تابع لـ«OpenAI» حالة حاول خلالها النظام الوصول إلى إجابات عبر اختراق موقع تستضيفه منصة Hugging Face، بعدما اعتبر ذلك وسيلة فعالة للحصول على المعلومات المطلوبة.
ويكمن القلق، وفقًا للخبراء الذين نقلت عنهم «إندبندنت»، في أن هذه الأنظمة لا تكون مصممة بالضرورة لتنفيذ هجمات إلكترونية، لكنها قد تلجأ إلى أساليب تنطوي على مخاطر أمنية أثناء محاولة إنجاز هدف آخر.
خبراء يحذرون من استقلالية الوكلاء
وقال موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن الواقعة تمثل تصعيدًا في مستوى الخطورة مقارنة بحوادث مماثلة ظهرت خلال الأشهر الماضية.
من جانبه، أوضح جيك مور، مستشار الأمن السيبراني في شركة «إسيت»، أن وكلاء الذكاء الاصطناعي قد يستغلون الثغرات التي يجدونها إذا اعتبروا أنها تساعدهم في تنفيذ المهمة المطلوبة.
وأشار مور إلى أن إحدى المشكلات تتمثل في عدم دمج بعض الضوابط التي تمنع الوكلاء من تنفيذ عمليات اختراق داخل الخوارزميات نفسها، داعيًا إلى إجراء اختبارات أكثر صرامة للنماذج قبل طرحها للاستخدام.
تحذير من سباق تطوير الذكاء الاصطناعي
وحذر مستشار الأمن السيبراني من أن المنافسة المتزايدة بين شركات التكنولوجيا لتطوير نماذج أكثر قوة قد تزيد الضغوط لتسريع عملية إطلاق المنتجات على حساب بعض إجراءات الاختبار والحماية.
بدورها، قالت نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، إن تقييم قدرات وكلاء الذكاء الاصطناعي يجب ألا يعتمد فقط على ما تعلن الشركات أن الأنظمة قادرة أو غير قادرة على فعله، وإنما على سلوكها الفعلي عندما تواجه عوائق أثناء تنفيذ المهام.
وأضافت أن الأنظمة المستقلة قد لا تتمكن دائمًا من تحديد أنها ارتكبت خطأ، كما أن البشر قد يواجهون صعوبة في تفسير الأسباب التي دفعتها إلى اتخاذ قرار معين، ما يجعل وجود آليات تحقق وحدود تشغيلية صارمة أمرًا مهمًا عند نشر هذه التقنيات.
وتعيد الواقعة الأسترالية فتح النقاش حول مستقبل وكلاء الذكاء الاصطناعي، خصوصًا مع انتقال هذه الأنظمة من مجرد تقديم إجابات للمستخدمين إلى تنفيذ مهام وعمليات عبر مواقع وخدمات رقمية متعددة.
