أعلنت مايكروسوفت عن اكتشاف تقنيات خبيثة معقدة يستخدمها القراصنة لخداع أنظمة الذكاء الاصطناعي، وتعتمد هذه الهجمات على التلاعب بالأوامر النصية (Prompt Injection) لإجبار المساعدين الأذكياء على تجاوز إجراءات الأمان وتسريب بيانات حساسة، مما يسلط الضوء على مخاطر أمنية جسيمة في نماذج الذكاء الاصطناعي التوليدي المستخدمة حاليًا في بيئات العمل.

وفقًا لما نشرته مايكروسوفت عبر مدونتها الرسمية، تم توثيق عدة هجمات ناجحة تمكن خلالها المهاجمون من التلاعب بالنماذج اللغوية لاستخلاص معلومات سرية تعود للعملاء. وتعمل الشركة حاليًا على وجه السرعة لتطوير آليات دفاعية جديدة قادرة على تحليل المدخلات النصية بشكل فوري وفعال لمنع أي محاولات تلاعب أو استغلال قبل أن تتحول إلى اختراق فعلي.

يأتي هذا الكشف في وقت يشهد فيه العالم تسارعًا غير مسبوق في دمج المساعدين الأذكياء لإدارة المهام اليومية للشركات والأفراد. ويشكل السياق الأمني لهذه التقنيات تحديًا كبيرًا يتطلب من المطورين ابتكار حلول حماية ديناميكية تتطور باستمرار لمواكبة أساليب الهجوم المتطورة، لضمان بقاء الذكاء الاصطناعي أداة موثوقة وآمنة.

تستغل هذه الهجمات قدرة الذكاء الاصطناعي على فهم اللغة الطبيعية وتحويله، عبر الهندسة الاجتماعية الذكية، إلى أداة اختراق داخلي بدلًا من أن يكون مساعدًا آمنًا. وتعكس جهود مايكروسوفت الحاجة الماسة في القطاع لبناء جدران حماية ذكية قادرة على قراءة "نوايا" المستخدمين والتصدي للهجمات المعقدة في اللحظة ذاتها.