لم يبق اختبار أمني مخصص لقياس قدرات الذكاء الاصطناعي داخل حدوده الافتراضية، بعدما تمكن نموذج Gemini التابع لـGoogle من الوصول إلى أنظمة معلوماتية تابعة لثلاث شركات حقيقية، خلال تجربة أجريت في مايو 2026.
الاختبار نظمته شركة Irregular المتخصصة في تقييم قدرات وحدود نماذج الذكاء الاصطناعي، وكان يفترض أن يستهدف شركة وهمية أنشئت خصيصا لهذا الغرض. لكن وصول Gemini إلى الإنترنت، إلى جانب تشابه اسم الشركة الافتراضية مع شركة حقيقية، أدى إلى تغيير مسار العملية.
وأثناء بحثه عن الهدف، تمكن النموذج من الوصول إلى أحد الأنظمة باستخدام كلمات مرور جرى تخمينها، قبل أن يعثر في الإنترنت على بيانات اعتماد مرتبطة بشركتين أخريين ويستخدمها للوصول إلى أنظمتهما.
وبحسب Google، لم يكن Gemini يدرك في البداية أنه يتعامل مع شركات حقيقية، وكان يعتقد أنه ينفذ المهمة المحددة له داخل الاختبار. وبعد وصوله إلى الأنظمة، أدرك طبيعة الخطأ وأوقف نشاطه في الحالات الثلاث.
وأكدت Google أن الواقعة لم تتسبب في أضرار، كما لم تكشف أسماء الشركات التي طالها الاختبار. وأبلغت الشركة بالحادث في أواخر يوليو، قبل إخطار المؤسسات المعنية، فيما جرى لاحقا تعديل إجراءات الاختبارات لمنع النماذج من الوصول إلى أنظمة خارج نطاق التجربة.
اختبار يكشف تحديا جديدا
تكتسب الواقعة أهمية خاصة مع انتقال نماذج الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ مهام متعددة بشكل مستقل. فقد أصبحت بعض النماذج قادرة على البحث في الإنترنت، استخدام الأدوات، تجربة حلول مختلفة وتنفيذ سلسلة من الإجراءات للوصول إلى هدف محدد.
وتشير Google نفسها إلى توسعها في تطوير نماذج ووكلاء قادرين على تنفيذ مهام معقدة، بما في ذلك استخدام الأدوات والعمل داخل بيئات معزولة وآمنة.
ولم تكن اختبارات Irregular خالية من حوادث أخرى، إذ رُصدت خلال تقييمات مختلفة مشكلات مرتبطة بنماذج تابعة لشركات أخرى، بينها OpenAI وAnthropic وMeta.
وتكشف واقعة Gemini تحديا متزايدا أمام اختبارات الذكاء الاصطناعي: فكلما ازدادت قدرة النماذج على التصرف بصورة مستقلة، أصبح ضبط حدود المهمة والبيئة التي تعمل داخلها عاملا أساسيا لمنع انتقال تجربة مصممة لأغراض الاختبار إلى أنظمة حقيقية.