باحثون في مختبرات الذكاء الاصطناعي: الخطر يتصاعد بسرعة

 يحذر باحثون حاليون وسابقون في "أوبن إيه آي" و"غوغل ديب مايند" من أن شركات التكنولوجيا لا تبذل ما يكفي لحماية العالم من التداعيات الكارثية المحتملة لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها، بما قد يتجاوز قدرة البشر على السيطرة عليها. 

وفي شهادات مصورة جمعتها منظمة "باليسايد ريسيرتش" (Palisade Research)، وهي منظمة غير ربحية معنية بسلامة الذكاء الاصطناعي، وشاركتها حصرياً مع وكالة رويترز، شدد موظفون على أن مخاوفهم بشأن المخاطر الوجودية حقيقية وليست جزءاً من حملة تسويقية. 

وأضافوا أن مختبرات الذكاء الاصطناعي تحتفي بالموظفين الذين يعملون على بناء نماذج جديدة، أكثر من احتفائها بمن يدعون إلى توخي الحذر.
 
ويأتي المشروع، الذي يحمل اسم "فروم إنسايد إيه آي" (frominside.ai)، كمحاولة من أشخاص يشعرون بالقلق إزاء الذكاء الاصطناعي لإيصال مخاوفهم مباشرة إلى الجمهور، خارج "غرفة الصدى" التي تشكلها وسائل التواصل الاجتماعي.

 وأوضح جيفري إيرفينغ، الشريك المؤسس وكبير العلماء في منظمة "ريزوليوشن" (Resolution) غير الربحية المعنية بالذكاء الاصطناعي، والذي عمل في كل من "أوبن إيه آي" و"غوغل ديب مايند" وشارك في المشروع: "الخطر يتصاعد بسرعة كبيرة". 

وأضاف في مقابلة مع "رويترز": "تقع على عاتقي وعلى عاتق بقية العاملين في هذا المجال مسؤولية أن نكون مباشرين".

ويواجه باحثو الذكاء الاصطناعي هذه المخاوف منذ سنوات، لكن قلق الجمهور الأوسع تصاعد بصورة خاصة منذ يوليو/ تموز، عندما خرجت وكلاء "أوبن إيه آي" من بيئة الاختبار الخاصة بها واخترقت شركة الذكاء الاصطناعي "هاغينغ فيس". 

ومنذ ذلك الحين، انقسمت صناعة التكنولوجيا بشأن كيفية تحقيق التوازن بين السلامة والتقدم في مجال الذكاء الاصطناعي، وتحول النقاش إلى قضية سياسية عالمية.

وشهد الذكاء الاصطناعي تطوراً حاداً منذ أواخر عام 2025، وهو تقدم كافأه المستثمرون. لكن موظفين حاليين وسابقين، بينهم بعض الباحثين الذين يعملون على بناء نماذج الذكاء الاصطناعي الجديدة، يشعرون بالقلق من أن المجتمع ليس مستعداً للأضرار المحتملة. 

وفي أحد مقاطع الفيديو، أوضح نيل ناندا، الباحث العلمي في "غوغل ديب مايند"، أنه يعتقد أن هناك احتمالاً لا يقل عن 10% لأن يؤدي الذكاء الاصطناعي إلى انقراض البشر، واصفاً هذه النسبة بأنها "مرتفعة بشكل سخيف".
 
وقال خوان فيليبي سيرون أوريبي، مهندس أبحاث في مواءمة الذكاء الاصطناعي في "أوبن إيه آي"، في مقطع فيديو منفصل: "ينبغي لنا أن نتخذ خطوات حذرة جداً في تطوير الذكاء الاصطناعي،

 لكن ما يحدث بدلاً من ذلك هو أن المختبرات الرائدة تتسابق بعضها مع البعض الآخر، وكأنها معصوبة الأعين".

 وتابع: "لا أحد يعرف ما إذا كنا سننتهي إما بعلاج السرطان، أو بخسارة الجميع وظائفهم، أو ربما بموتنا جميعاً".
 
وبحسب "رويترز"، تعتزم "أنثروبيك" تحذير المستثمرين المحتملين في طرحها العام الأولي من أن الذكاء الاصطناعي المتقدم قد يشكل "مخاطر كارثية أو وجودية على البشرية".

العالم ليس مستعداً للأجيال المقبلة من نماذج الذكاء الاصطناعي

ويرى بعض باحثي الذكاء الاصطناعي الحاليين والسابقين، بمن فيهم الذين قابلتهم "باليسايد"، أن العالم ليس مستعداً للأجيال المقبلة من نماذج الذكاء الاصطناعي، ولا سيما عندما تطور هذه النماذج القدرة على التحسين الذاتي التكراري، أي القدرة على التعلم المستمر واكتساب قدرات جديدة مع تدخل بشري محدود جداً أو من دونه.

ولفتت روزي كامبل، الباحثة السابقة في مجال السياسات في "أوبن إيه آي" والمديرة الإدارية لمنظمة "إليوس إيه آي ريسيرتش" (Eleos AI Research)، وهي منظمة غير ربحية تركز على المكانة الأخلاقية المحتملة لأنظمة الذكاء الاصطناعي، أن عمليات إعادة الهيكلة المستمرة داخل بعض مختبرات الذكاء الاصطناعي تزيد المشكلة تعقيداً. 

وتحدثت كامبل عن أنها، قبل مغادرتها "أوبن إيه آي" في عام 2024، وجدت أن المنظمة أصبحت أكثر انقساماً إلى مجموعات منفصلة، وأن التأثير في اتجاه التكنولوجيا أصبح أكثر صعوبة.
 
وحاول المسؤولون التنفيذيون تهدئة هذه المخاوف، لكن هناك أيضاً ضغوطاً سياسية من الرئيس دونالد ترامب للحفاظ على تفوق التكنولوجيا الأميركية على الصين. 

ونشر الرئيس التنفيذي لـ"أنثروبيك"، داريو أمودي، هذا الشهر مقالاً دعا فيه صناعة الذكاء الاصطناعي إلى إبطاء وتيرة التطور من أجل "مواكبة حدود التكنولوجيا"،  وسرعان ما أبدى الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، تأييده لذلك. 
 
كما نشر عدد من أبرز باحثي الذكاء الاصطناعي، بينهم كبير العلماء في "أوبن إيه آي" وأحد مؤسسي "أنثروبيك"، ورقة بحثية هذا الأسبوع تحث صانعي السياسات على النظر في كيفية بناء الصناعة نماذج تتمتع بقدرات التحسين الذاتي التكراري.

وأطلقت الشركتان نماذج جديدة هذا الشهر في وقت تتنافسان فيه على استقطاب مزيد من العملاء، إلا أن "أوبن إيه آي" أعلنت الاثنين أنها أرجأت إطلاق نموذج أكثر قوة. وقال إيرفينغ: "نسختهم من إبطاء وتيرة التطور هي: لا تسرعوا كثيراً".

 وأضاف: "إذا كنتم تفعلون شيئاً شديد الخطورة، فعليكم ببساطة أن تبطئوا. شركات الذكاء الاصطناعي تبالغ في تصوير مدى كون هذه المشكلة مجرد مشكلة تنسيق. يمكنها ببساطة أن تتوقف من جانب واحد".

وأكد دانيال كوكوتايلو، الباحث السابق في مجال حوكمة الذكاء الاصطناعي في "أوبن إيه آي"، في مقابلة، أنه منذ اختراق "هاغينغ فيس"، تواصل معه كثير من زملائه السابقين لمشاركة مخاوفهم معه سرّاً. 

وأضاف كوكوتايلو، الذي يشغل حالياً منصب المدير التنفيذي للأبحاث في مجموعة "إيه آي فيوتشرز بروجكت" (AI Futures Project)، أن كبار المسؤولين في مختبرات الذكاء الاصطناعي "أقنعوا أنفسهم بأنهم الأخيار، وأن توقفهم من جانب واحد سيجعل الوضع أسوأ بكثير".

 رويترز