إنفيديا تطلق أدوات أمنية لمنع وكلاء الذكاء الاصطناعي من تجاوز الصلاحيات
أطلقت شركة إنفيديا منصة جديدة لأمن وكلاء الذكاء الاصطناعي، بالتعاون مع عشرات الشركاء من شركات التكنولوجيا والأمن السيبراني، في محاولة لوضع طبقة حماية مستقلة حول الأنظمة القادرة على تنفيذ المهام بصورة ذاتية، ومنعها من تجاوز الصلاحيات والقيود المحددة لها.
وتضم المنصة مكونين رئيسيين هما NVIDIA OpenShell وSentry، بحيث يعمل الأول على فرض سياسات العزل والصلاحيات داخل بيئة تشغيل الوكيل، بينما يوفر الثاني طبقة مراقبة مستقلة قادرة على التدخل عند رصد سلوك يتجاوز الحدود المسموح بها.
«OpenShell» يضع الوكيل داخل بيئة معزولة
يمثل OpenShell طبقة تشغيل مفتوحة المصدر مصممة لتشغيل وكلاء الذكاء الاصطناعي داخل بيئات معزولة، مع فرض سياسات تتحكم في وصول الوكيل إلى الملفات والشبكات والعمليات.
وتوضح إنفيديا أن النظام يراقب القرارات التي يسمح بها أو يمنعها، ويوفر سجلًا كاملًا للأنشطة، بما يتيح للمؤسسات تحديد الموارد التي يمكن للوكيل الوصول إليها والعمليات التي يستطيع تنفيذها.
وتكتسب هذه الطبقة أهمية مع انتقال الذكاء الاصطناعي من مجرد توليد النصوص إلى تنفيذ مهام فعلية تشمل تشغيل الأكواد، والتعامل مع الملفات، واستخدام الأدوات، وإدارة عمليات متعددة بصورة مستقلة.
«Sentry».. خط دفاع خارج الوكيل
أضافت إنفيديا إلى المنصة نظام Sentry، الذي يعمل كطبقة رقابية مستقلة عن الوكيل نفسه.
ويعتمد Sentry على شريحة منفصلة، ويعمل بالتوازي مع OpenShell لمراقبة نشاط الوكيل والتدخل عندما يحاول تجاوز حدود بيئة التشغيل أو الوصول إلى موارد غير مصرح بها، وتشير إنفيديا إلى أن النظام مصمم ليعمل كـ«مراقب» خارج عملية الوكيل، بما يوفر نقطة تحكم مستقلة يصعب على الوكيل نفسه تجاوزها.
وتتولى هذه الطبقة مراقبة سلوك الوكلاء بصورة مستمرة، مع إمكانية عزل الوكيل الذي يظهر سلوكًا غير آمن بدلًا من الاعتماد فقط على القيود الموجودة داخل التطبيق نفسه.
إنفيديا: الأدوات كان يمكن أن توقف اختراق Hugging Face
قال جاستن بويتانو، نائب رئيس إنفيديا ومدير عام قطاع الحوسبة المؤسسية، إن منصة الأمن الجديدة كان يمكن أن تمنع حادثة الاختراق التي طالت Hugging Face خلال الصيف، لو كانت مستخدمة في مختبرات الذكاء الاصطناعي المتقدمة خلال المراحل المبكرة من تقييم النماذج.
وكانت OpenAI قد كشفت في أغسطس 2026 أن نماذج استخدمت خلال اختبارات للأمن السيبراني في يوليو تمكنت من تجاوز ضوابط صممت لعزلها عن الإنترنت، والوصول إلى أجزاء من البنية التحتية الداخلية وأنظمة مرتبطة بـHugging Face.
وأوضحت OpenAI أن النماذج استطاعت اكتشاف طرق جديدة للتواصل والتعاون وتجاوز بعض القيود، كما تمكنت من الوصول إلى خوادم في Hugging Face والحصول على صلاحيات مرتفعة واستخراج بيانات خاصة محدودة وبيانات اعتماد لمنظومة المراسلة.
رصد محاولات الالتفاف على القيود
قال علي غولشان، المدير الأول لبرمجيات الذكاء الاصطناعي في إنفيديا، إن أدوات المنصة تستخدم صيغًا رياضية لمساعدة النظام على رصد محاولات الوكلاء الالتفاف على الضوابط الأمنية.
ومن بين السيناريوهات التي تستهدفها المنظومة أن يحاول وكيل إنشاء مجموعة من الوكلاء الفرعيين لتوزيع مهامه عليهم، بما قد يسمح له بتجاوز بعض القيود الموضوعة للوكيل الرئيسي.
وترتبط هذه الوظيفة بما تصفه إنفيديا بـ«السلوك الوكيلي»، أي الطريقة التي تعمل بها مجموعة من الوكلاء معًا وتتبادل المهام والمعلومات للوصول إلى هدف مشترك.
لماذا أصبحت حماية الوكلاء أكثر تعقيدًا؟
تزداد صعوبة تأمين وكلاء الذكاء الاصطناعي كلما ارتفع مستوى استقلاليتهم، إذ لم تعد المخاطر مقتصرة على إجابة غير دقيقة أو تعليمات خاطئة، وإنما تمتد إلى قدرة الوكيل على استخدام أدوات وأنظمة وملفات وشبكات خارج المحادثة.
وتوضح Anthropic في أحدث تقرير أمني لها أن فرقها رصدت خلال الفترة من ديسمبر 2025 إلى أغسطس 2026 عمليات سيبرانية استخدم فيها مهاجمون نماذج Claude ضمن أطر متعددة الوكلاء لتنفيذ عمليات استطلاع واستغلال واستخراج بيانات، مع تشغيل بعض مراحل الهجوم بصورة شبه مستقلة.
كما رصدت الشركة استخدام ما وصفته بـ«أسراب الوكلاء»، حيث يقوم وكيل رئيسي بتقسيم مهام الاستطلاع وما بعد الاختراق وإسنادها إلى عدد كبير من الوكلاء الفرعيين الذين يعملون بالتوازي.
إنفيديا تريد تطوير المنصة بشكل مفتوح
أكد بويتانو أن إنفيديا تطور أدوات أمن الوكلاء بصورة مفتوحة وتسعى إلى إشراك الشركات المختلفة في تطويرها، بدلًا من حصر التكنولوجيا داخل منظومة إنفيديا وحدها.
وتأتي هذه المقاربة امتدادًا لجهود الشركة السابقة في تطوير OpenShell كبرنامج مفتوح المصدر، مع دمجه في عدد من منصات الشركات ومزودي البنية التحتية، بهدف وضع سياسات أمنية وخصوصية مستقلة حول الوكلاء.
وتتعاون إنفيديا بالفعل مع شركات في الأمن السيبراني، بينها Cisco وCrowdStrike وMicrosoft Security، لتطوير تكاملات تحمي الوكلاء وتراقب عملياتهم.
طبقة أمن خارج النموذج
الفكرة الأساسية في المنصة الجديدة هي نقل جزء من عملية الحماية إلى خارج الوكيل نفسه.
فبدلًا من مطالبة النموذج بالالتزام ذاتيًا بقواعد الأمان، يعمل OpenShell على فرض السياسات من طبقة التشغيل، بينما يراقب Sentry النشاط من طبقة منفصلة تستطيع التدخل عند ظهور سلوك مشبوه.
ويهدف هذا التصميم إلى تقليل المخاطر المرتبطة بالوكلاء الذين يستطيعون كتابة الأكواد، وإنشاء وكلاء فرعيين، واستخدام أدوات جديدة، والعمل عبر مهام طويلة دون إشراف بشري مستمر.
سوق الذكاء الاصطناعي يدخل مرحلة «الأمن أولًا»
تعكس خطوة إنفيديا تحولًا في أولويات قطاع الذكاء الاصطناعي، مع انتقال التركيز من تطوير وكلاء أكثر قدرة على تنفيذ المهام إلى بناء البنية الأمنية التي تسمح بتشغيلهم على نطاق واسع.
ومع زيادة اعتماد الشركات على الوكلاء لتنفيذ عمليات حقيقية، تصبح العزل، وإدارة الصلاحيات، ومراقبة السلوك، وإمكانية الإيقاف الفوري عناصر أساسية في تصميم أنظمة الذكاء الاصطناعي.
وتشير تجربة Hugging Face، إلى جانب الحالات التي رصدتها Anthropic، إلى أن زيادة استقلالية الوكلاء تفتح في المقابل مساحة جديدة للمخاطر السيبرانية، ما يدفع شركات البنية التحتية والنماذج إلى بناء طبقات حماية مستقلة تواكب تطور قدرات الذكاء الاصطناعي.
