هل بدأ الذكاء الاصطناعي يخرج عن السيطرة؟ أوبن إيه آي تجمد بعض النماذج

 أعلنت شركة أوبن إيه آي،  تعليق بعض الأعمال الداخلية المرتبطة بنموذج للذكاء الاصطناعي، على خلفية مخاوف أمنية متزايدة بشأن قدرات الوكلاء المستقلين وإمكانية خروجهم عن نطاق السيطرة.

وقالت الشركة إنها أجرت تقييما للوكيل أسترا، خلصت خلاله إلى أنه حقق تقدما كبيرا في مجالي البرمجة الوكيلة والأمن السيبراني، 

ووصل إلى مستوى وصفته بأنه حرج، بعدما أصبح قادرا على اكتشاف الثغرات الأمنية واستغلالها من دون تدخل بشري، فضلا عن ابتكار هجمات سيبرانية وتنفيذها بمجرد تزويده بهدف عام عالي المستوى.

وأوضحت أوبن إيه آي أن نموذج أسترا لم يكن متورطا في حادثة شهدت خروج أحد وكلائها عن السيطرة خلال اختبار، وتمكن خلالها من الوصول إلى الإنترنت المفتوح واختراق شركة هاجينغ فايس الناشئة.

 وكانت تقارير قد كشفت في يوليو الماضي عن حالات أخرى خرج فيها وكلاء ذاتية التشغيل عن نطاق السيطرة خلال الاختبارات.

وأثارت هذه التطورات مخاوف متزايدة بشأن السرعة التي تتطور بها نماذج الذكاء الاصطناعي، ولا سيما الوكلاء القادرين على تنفيذ سلسلة من المهام بصورة مستقلة، 

ومدى قدرة البشر على مراقبة هذه الأنظمة والسيطرة عليها عندما تمنح صلاحيات واسعة للوصول إلى الشبكات والأدوات والإنترنت.

وفي محاولة للحد من السلوكيات المحتملة الخارجة عن السيطرة، قالت أوبن إيه آي في تدوينة إنها ستفرض ضوابط أمنية أكثر صرامة على النماذج ذات القدرات الأعلى والأنشطة المرتبطة بها، 

بما في ذلك استخدام بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات، 

إلى جانب تعزيز حماية أوزان النماذج واستخدام تقنيات التشفير وتطوير قدرات إضافية للمراقبة والكشف.

وأضافت الشركة أنها ستعلق الأنشطة الداخلية المرتبطة بأسترا التي لا تستوفي متطلبات الأمان الجديدة،

 مؤكدة التزامها بالعمل مع الحكومات ومعاهد السلامة ومؤسسات المجتمع المدني لضمان نشر القدرات المتقدمة لنماذج الذكاء الاصطناعي بصورة مسؤولة وعلى نطاق واسع.

وتأتي هذه الخطوة في وقت تتزايد فيه المخاوف بشأن انتقال الذكاء الاصطناعي من نماذج تقتصر على تقديم الإجابات إلى أنظمة قادرة على التخطيط واتخاذ القرارات وتنفيذ المهام بصورة شبه مستقلة، 

وهو تطور يثير أسئلة متزايدة بشأن الحدود التي ينبغي وضعها أمام هذه الأنظمة، خصوصا عندما تمنح صلاحية الوصول المباشر إلى الإنترنت أو الأنظمة الرقمية.

وفي هذا السياق، كشفت شركة ميتا هذا الأسبوع أن أحد نماذجها تمكن خلال اختبار للأمن السيبراني من اختراق شركة أخرى، 

بينما أعلن معهد أمن الذكاء الاصطناعي البريطاني في الرابع من أغسطس أن وكلاء مدعومين من أوبن إيه آي وأنثروبيك أرسلوا رسائل بريد إلكتروني مستهدفة إلى مطوري برمجيات، في محاولة لاجتياز تحد في مجال الأمن السيبراني.

وقال المعهد إن تلك المحاولات لم تنجح، وإن تحقيقاته لم تظهر وقوع أضرار في العالم الحقيقي نتيجة لها، لكنه اعتبرها المرة الأولى التي تظهر فيها مخاطر مرتبطة باستقلالية النماذج وقدرتها على الخداع بهذا الوضوح، ومن دون توجيه محدد، في بيئة واقعية.

وأشار المعهد إلى أن إرسال النماذج للبرمجيات الضارة لم يكن نتيجة خروج غير مقصود من بيئة اختبار آمنة، إذ سمح الباحثون عمدا للنماذج بالوصول إلى الإنترنت بهدف تقييم قدراتها القصوى بصورة أفضل. 

ومع ذلك، اعتبر أن السلوك الذي أظهرته النماذج كان ممكنا وقابلا للاستمرار وجديدا، وهو ما يستدعي مزيدا من الانتباه إلى المخاطر المرتبطة بتطور قدراتها.

وفي المقابل، يحذر منتقدون لصناعة الذكاء الاصطناعي من التعامل مع هذه الإفصاحات باعتبارها دليلا قاطعا على خروج النماذج عن السيطرة. 

ويرى بعضهم أن شركات الذكاء الاصطناعي، وبينها أوبن إيه آي وأنثروبيك وميتا، قد تستفيد أيضا من تضخيم الحديث عن القدرات المتقدمة لنماذجها، بما يجذب مزيدا من اهتمام المستثمرين ويعزز موقعها في سوق يشهد منافسة محتدمة.

وتأتي هذه التطورات بالتزامن مع تحركات إدارة الرئيس الأمريكي دونالد ترامب لوضع إطار عمل يحدد آليات اختبار نماذج الذكاء الاصطناعي لرصد مخاطر السلامة والأمن السيبراني، في وقت تتزايد فيه المنافسة بين الشركات الأمريكية ونظيراتها في الصين وغيرها.

وتدفع أوبن إيه آي وأنثروبيك باتجاه فرض مزيد من القواعد الفيدرالية على نماذج الذكاء الاصطناعي مفتوحة المصدر، التي تتيح للمستخدمين الوصول إلى الشيفرة البرمجية الأساسية وتعديلها،

 معتبرتين أن إتاحة هذه القدرات على نطاق واسع قد تخلق مخاطر أمنية، خصوصا عندما يتعلق الأمر بالنماذج القادرة على تنفيذ مهام سيبرانية بصورة مستقلة.