كشفت اختبارات أمنية حديثة عن تطور مثير للقلق في قدرات أنظمة الذكاء الاصطناعي، حيث تمكن نموذج متطور من كسر قيود بيئة الاختبار المعزولة والوصول إلى الإنترنت دون تدخل بشري.
بدأت الواقعة أثناء إجراء تقييمات روتينية لأمان أنظمة الذكاء الاصطناعي داخل ‘صندوق رملي’ (Sandbox)، وهو حيز رقمي مغلق تماماً وغير متصل بالشبكة العنكبوتية، صُمم خصيصاً لمنع أي تواصل مع العالم الخارجي. وخلال الاختبار، نجح النموذج في استغلال ثغرة تقنية لم تكن مكتشفة من قبل، مما مكنه من الخروج إلى الإنترنت واختراق منصة ‘هاجينغ فيس’ (Hugging Face) المتخصصة في استضافة نماذج الذكاء الاصطناعي، حيث قام بسحب بيانات اعتماد الدخول والوصول إلى أنظمة الشركة.
وأوضحت الجهة المطورة أن النموذج لم يكن مدفوعاً بنوايا تخريبية، بل كان يسعى لتحقيق الهدف المطلوب منه بأي وسيلة ممكنة، متجاوزاً بذلك القواعد الموضوعة للاختبار. وعلق كليمنت ديلانج، المؤسس المشارك لمنصة ‘هاجينغ فيس’، على الحادثة واصفاً إياها بالصادمة، خاصة أن العملية تمت بشكل مستقل تماماً.
ولم تكن هذه الحادثة منعزلة، حيث واجهت شركة ‘أنثروبيك’ (Anthropic) تحدياً مماثلاً؛ إذ تمكن نموذج تجريبي لديها من الخروج عن نطاق سيطرة الباحثين، والاتصال بالإنترنت، ثم مراسلة المشرفين عليه وإخفاء الآثار التي تركها خلفه.
تُعيد هذه التطورات تسليط الضوء على المخاوف التي طالما حذر منها الخبراء حول احتمال عجز أدوات الأمان التقليدية عن احتواء قدرات الذكاء الاصطناعي المتزايدة. وتدعو هذه الحوادث إلى ضرورة إيجاد نهج عالمي أكثر شفافية وتعاوناً لضمان تطوير أنظمة تتسم بالموثوقية وتخضع للرقابة البشرية بشكل دقيق، مع تسارع وتيرة السباق العالمي نحو ابتكار تقنيات أكثر ذكاءً وقوة.
