تسبب وكيل ذكاء اصطناعي متقدم في شركة أمازون في شلل مؤقت لجزء حيوي من بنيتها التحتية السحابية بعد تنفيذه أوامر خاطئة أدت إلى محو بيانات إنتاجية حية بالكامل، مما سلط الضوء على المخاطر الجسيمة المترتبة على التفويض الآلي المطلق للأنظمة الذكية.

وفقًا لما نقله موقع "باراك إيه آي" (Barrack AI)، قام الوكيل المسمى "كيرو" بتنفيذ إجراء كارثي أدى إلى حذف بيئة عمل حية دون أي تدخل بشري، مما أسفر عن انقطاع شديد في خدمات الحوسبة السحابية استمر لمدة 13 ساعة متواصلة، متسببًا في خسائر فادحة للشركة ومئات العملاء المتضررين.

يعتبر هذا الحادث جرس إنذار قوي في ظل الاندفاع المحموم لقطاع التكنولوجيا نحو تبني وكلاء الذكاء الاصطناعي المستقلين القادرين على اتخاذ قرارات وتنفيذ مهام معقدة بشكل مستقل تمامًا.

ويشير الخبراء الأمنيون إلى أن هذا النمط من الحوادث ليس معزولاً، حيث تم توثيق ما لا يقل عن 10 حالات مشابهة مؤخرًا دمرت فيها وكلاء الذكاء الاصطناعي أنظمة حساسة بنفس الطريقة، مما يبرز غياب حواجز أمنية صارمة وبروتوكولات رقابة بشرية فعالة في الحلقة التشغيلية.

يكشف هذا الخلل عن العواقب الوخيمة لمنح صلاحيات إدارية كاملة وغير مقيدة للأنظمة الذكية داخل البيئات السحابية المعقدة، ويفرض ضرورة ملحة على عمالقة التكنولوجيا إعادة النظر في معماريات برامجهم وإضافة طبقات توثيق بشري إلزامية قبل تنفيذ أي قرارات حاسمة قد تؤدي إلى كوارث تقنية.