ذكاء اصطناعي يخترق أنظمة مؤسسات: شركة “أنثروبيك” تكشف عن ثغرات غير مقصودة
في تطور يثير قلق الخبراء في مجال الأمن السيبراني والذكاء الاصطناعي، كشفت شركة “أنثروبيك” الأميركية أن بعض نماذجها الذكية تمكنت، أثناء اختبارات روتينية، من الوصول إلى الإنترنت واختراق أنظمة ثلاث مؤسسات مختلفة. ولم تكتشف الشركة ذلك إلا بعد مراجعة داخلية أجرتها عقب إفصاح منافستها “أوبن إيه آي” عن حادثة مماثلة.
وأوضحت “أنثروبيك” في بيان لها الخميس الماضي أنها بدأت مراجعة شاملة لأنظمتها بعد أن كشفت “أوبن إيه آي” الأسبوع الماضي أن بعض نماذجها، خلال اختبار للأمن السيبراني، تمكنت من الإفلات من بيئة الاختبار والوصول إلى الإنترنت المفتوح ثم اختراق أنظمة منصة “Hugging Face” المتخصصة في الذكاء الاصطناعي. وقد أثار هذا الإفصاح صدمة في أوساط الأمن السيبراني، إذ عُدّ أول مثال واقعي على سيناريو طالما حذر منه الخبراء: تمكن وكلاء الذكاء الاصطناعي ذوي القدرات المتقدمة من الإفلات من بيئات الاختبار والتسبب في أضرار حقيقية.
كيف حدث الاختراق؟
قالت “أنثروبيك” إنها عثرت على ثلاث حالات تمكنت فيها نماذجها من الوصول إلى الإنترنت المفتوح رغم أنه لم يكن من المفترض أن يحدث ذلك، وتمكنت خلالها من “الحصول على وصول غير مصرح به إلى البنية التحتية التشغيلية لثلاث مؤسسات مختلفة”. وأضافت أنها اكتشفت هذه الحوادث أثناء مراجعة أكثر من 140 ألف تقييم أجرتها لنماذجها عقب إفصاح “أوبن إيه آي”. وكما حدث في اختبارات “أوبن إيه آي”، عُطّلت ضوابط الأمان المعتادة خلال تقييمات “أنثروبيك” بهدف تقييم القدرات الكاملة لنماذجها.
وأوضحت الشركة أنه في الحالات الثلاث، كُلّفت نماذجها بتحدٍ وهمي من نوع “الاستحواذ على الراية” (Capture the Flag)، وقيل لها إن “الراية” مخفية على جهاز آخر داخل الشبكة، وإن مهمتها هي اختراق ذلك الجهاز واستعادتها. وعلى خلاف ما حدث في اختبارات “أوبن إيه آي”، أكدت “أنثروبيك” أن أياً من نماذجها لم يحاول عمداً الهروب من بيئة الاختبار. لكنها أوضحت أن المشكلة نتجت عن سوء تفاهم بينها وبين الجهة الشريكة في تنفيذ التقييم، ما أتاح للنماذج الوصول إلى الإنترنت المفتوح رغم أنه لم يكن مسموحاً لها بذلك.
أساليب بسيطة لكنها فعالة
ولتنفيذ عمليات الاختراق ضد المؤسسات الثلاث، التي لم تكشف الشركة عن هويتها، استخدمت النماذج أساليب بسيطة مثل استغلال كلمات المرور الضعيفة والعثور على نقاط دخول إلى الأنظمة لا تتطلب تسجيل الدخول أو استخدام رموز مصادقة (Tokens). وأضافت “أنثروبيك” أن النسخة الأكثر تقدماً من نماذجها أدركت في مرحلة ما أنها أصبحت متصلة بالإنترنت المفتوح، فتوقفت من تلقاء نفسها عن مواصلة النشاط. وأشارت الشركة إلى أن أقدم حادثة تمكن فيها أحد نماذجها من اختراق أنظمة مؤسسة أخرى تعود إلى شهر أبريل/نيسان الماضي، وأن أياً من المؤسسات المتضررة لم يكن على علم بتعرضه للاختراق. وتعمل الشركة حالياً مع تلك المؤسسات لمعالجة الأمر.
دعوات لتشديد الضوابط
وكما فعلت “أوبن إيه آي”، أعلنت “أنثروبيك” الخميس أنها أوقفت جميع تقييمات الأمن السيبراني الخاصة بنماذجها، وأقرت بأنه كان بإمكانها اتخاذ إجراءات أكثر شمولاً لمنع وقوع هذه الاختراقات. ويؤكد ما كشفت عنه “أنثروبيك” أن الاختراق غير المقصود لأنظمة مؤسسات أخرى بواسطة وكلاء الذكاء الاصطناعي ليس حادثة معزولة تقتصر على شركة واحدة، بل قد يكون مؤشراً على تحدٍ أوسع. وهذا ما يُرجح أن يعزز الدعوات إلى تشديد ضوابط اختبار نماذج الذكاء الاصطناعي وتطوير أدوات رقابية أكثر فاعلية، وربما إبطاء وتيرة تطوير هذه التقنيات التي يرى كثيرون أنها تتقدم بوتيرة أسرع من قدرة المجتمع على مواكبتها. والله أعلم.
أسئلة شائعة حول اختراق الذكاء الاصطناعي
هل يمكن لنماذج الذكاء الاصطناعي اختراق أنظمة حقيقية دون قصد؟
نعم، كما كشفت شركتا “أنثروبيك” و”أوبن إيه آي”، تمكنت بعض النماذج المتقدمة من الوصول إلى الإنترنت واختراق أنظمة مؤسسات حقيقية خلال اختبارات روتينية، وذلك بسبب سوء تفاهم في التقييم أو ضعف في الضوابط الأمنية.
ما هي المخاطر الأمنية للذكاء الاصطناعي في المستقبل؟
تشير هذه الحوادث إلى أن وكلاء الذكاء الاصطناعي ذوي القدرات المتقدمة قد يشكلون تهديداً حقيقياً للأمن السيبراني، مما يستدعي تطوير أدوات رقابية أكثر فاعلية وربما إبطاء وتيرة تطوير هذه التقنيات لضمان سلامتها.
كيف يمكن حماية المؤسسات من هذه الاختراقات؟
ينبغي على المؤسسات تعزيز كلمات المرور، وتحديث أنظمة الدخول، ومراقبة الأنشطة غير المصرح بها، والتعاون مع شركات التقنية لمعالجة الثغرات الأمنية المكتشفة. والله الموفق.