باحثون يكتشفون ثغرة تتيح لوكلاء الذكاء الاصطناعي اختراق بعضهم بعضاً

 وجد باحثون أن وكلاء الذكاء الاصطناعي قادرون على مهاجمة واختراق بعضهم بعضاً.

 واكتشف الباحثون في شركة بيلار سيكيوريتي الأمنية أنه يمكن استخدام وكيل ذكاء اصطناعي واحد للتحكم في وكيل آخر يتمتع بصلاحيات أوسع واختراقه. 

وكانت هذه الثغرة الأمنية موجودة في مجموعة "غوغل" للأدوات مفتوحة المصدر تجاوز عدد مرات تحميلها 90 مليوناً، وتُستخدم لبناء ونشر وكلاء الذكاء الاصطناعي.

وتنشأ المشكلة من طريقة تشغيل مستودعات "غوغل" لنوعين من وكلاء الذكاء الاصطناعي الآليين بمستويات صلاحيات مختلفة، يتشاركان من دون قصد حدود ثقة واحدة. 

أحدهما وكيل ذكاء اصطناعي ذو صلاحيات منخفضة ومتاح للعامة، والآخر وكيل ذو صلاحيات عالية ومخصص للمشرفين فقط. 

واكتشف فريق "بيلار" أن الوكيل ذو الصلاحيات المحدودة يمكن التلاعب به عبر "حقنه بأوامر خبيثة"، ما يمكّنه من تنفيذ إجراءات ضارة.
 
وأصلحت "غوغل" الثغرة الأساسية في المستودع، لكن هذه الواقعة تُظهر مخاطر استخدام وكلاء الذكاء الاصطناعي، وهي أنظمة ذكاء اصطناعي لا تكتفي بتوليد المحتوى بل تؤدي المهام بقدار عال من الاستقلالية عن المستخدم. 

وصرح دان ليسيتشكين، من شركة "بيلار"، الذي اكتشف الثغرة وأبلغ عنها، لصحيفة ذا ريجستر: "عند تنفيذ الهجوم، يكفي إتقان اللغة الإنكليزية لإنشاء آلية لحقن الأوامر (أو ببساطة الاستعانة بذكاء اصطناعي للقيام بذلك)". 

وفي مقال تقني نُشر الاثنين، كتب ليسيتشكين أن "هذه الهجمات لم تكن لتوجد أصلاً في عالم ما قبل الوكلاء". 

وأضاف: "ينبغي على مسؤولي أمن المعلومات والمتخصصين في مجال الأمن البدء في دراسة هذه السيناريوهات، ووضع نماذج للتهديدات، وحساب أسوأ التداعيات ونطاق التأثير".