• الرئيسية
  • من نحن
  • الإفتتاحية
  • اتصل بنا
  • English
إذهب إلى...
    الرأي الثالث الرأي الثالث
    • أحدث الأخبار
    • أخبار خاصة
    • قضية ساخنة
    • حوارات
    • كتابات وآراء
      • محمود ياسين
      • حسن عبدالوارث
      • فتحي أبو النصر
      • محمد جميح
      • أ.د. أيوب الحمادي
      • أمل علي
      • منى صفوان
      • ياسر العواضي
      • د. أروى أحمد الخطابي
      • د. أبوبكر القربي
      • ضياء دماج
      • نبيل الصوفي
      • أحمد عبدالرحمن
      • محمد سعيد الشرعبي
      • فكري قاسم
      • د. منذر محمد  طارش 
      • Maria Zakharova
      • د. باسل باوزير
      • عادل الحداد
      • خليل القاهري
      • د. محمد الظاهري
      • أمين الوائلي
      • سارة البعداني
      • سمير الصلاحي
      • محمد النعيمي
      • د محمد جميح
      • حسن عبدالله الكامل
      • نائف حسان
      • فؤاد المنتصر
      • أمة الله الحجي
      • حنان حسين
      • محمد عايش
      • صبحي غندور
      • سمر أمين
      • عبدالعزيز العقاب
      • اسكندر شاهر
      • كمال عوض
      • عبدالوهاب طواف
      • سامية الأغبري
      • حسين الوادعي
      • شيرين مكاوي
      • د. مـروان الغفوري
      • ديمة ناصيف
      • الدكتور زارا صالح
      • خالد الرويشان
      • محمد المسوري
      • د. عادل الشجاع
      • بشير عثمان
      • فتحي بن لزرق
      • الدكتور فيصل الحذيفي
      • علي البخيتي
      • محمد عياش
      • سامي كليب
      • هند الإرياني
      • عبدالإله المنحمي
      • نهى سعيد
      • عبدالخالق النقيب
      • معن بشّور
      • جهاد البطاينة
      • د.عامر السبايلة
      • محمد محمد المقالح
      • الدكتور إبراهيم الكبسي
      • أحمد سيف حاشد
      • القاضي عبدالوهاب قطران
      • حسين العجي العواضي
      • نايف القانص
      • همدان العلي
      • مجاهد حيدر
      • حسن الوريث
      • د.علي أحمد الديلمي
      • علي بن مسعود المعشني
      • خميس بن عبيد القطيطي
      • د.سناء أبو شرار
      • بشرى المقطري
      • م.باسل قس نصرالله
      • صالح هبرة
      • عبدالرحمن العابد
      • د. عدنان منصور
      • د. خالد العبود
      • أ.عبدالله الشرعبي
    • صحف عربية وعالمية
    • تقارير عربية ودولية
      • تقارير عربية
      • تقارير دولية
    • أدب وثقافة
    • إقتصاد
    • فن
    • رياضة
    • المزيد
      • وسائل التواصل الإجتماعي
      • إستطلاع الرأي
      • أخبار المجتمع
      • علوم وتكنولوجيا
      • تلفزيون
      • من هنا وهناك
      • فيديو
    إذهب إلى...

      شريط إخباري

      • إسرائيل: شروط اتفاق في غزة تتوفر الآن ومستعدون لبحث وقف دائم للحرب
      • الشرع يلتقي المبعوث الأميركي في دمشق: ملف قسد على الطاولة
      • غروندبرغ: الوضع في اليمن هش والانقسامات تتفاقم
      • تفاصيل الـ90 دقيقة بين ترامب ونتنياهو لحل الخلاف بشأن غزة
      • توثيق مئات الانتهاكات الحوثية في صنعاء خلال نصف عام
      • اجتماع بين الشرع وقائد «قسد» في دمشق بحضور برّاك
      • غرق سفينة أخرى بهجوم للحوثيين قبالة سواحل اليمن
      • مساء اليوم.. مجلس الأمن يعقد جلسة جديدة بشأن اليمن
      • ترمب يُجري محادثات جديدة مع نتنياهو لإنهاء «مأساة» غزة
      • مظلوم عبدي في دمشق.. فرصة أخيرة لتجنّب الصدام العسكري

      علوم وتكنولوجيا

       الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

      الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

      22 ديسمبر, 2024

       أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

      وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

      وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

      وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

      وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

      في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. 

      وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

      وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

      وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.

        مشاركة :
      • طباعة

      مقالات متنوعة

      • علوم وتكنولوجيا 09 يوليو, 2025

        استثمار في العقول.. كيف تُحوّل عُمان نفسها إلى مركز عالمي للتعليم العالي؟

        استثمار في العقول.. كيف تُحوّل عُمان نفسها إلى مركز عالمي للتعليم العالي؟
        علوم وتكنولوجيا 07 يوليو, 2025

        كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟

        كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟
        علوم وتكنولوجيا 04 يوليو, 2025

        هل يمكن للذكاء الاصطناعي التصرف كعقل بشري؟

        هل يمكن للذكاء الاصطناعي التصرف كعقل بشري؟
      • علوم وتكنولوجيا 01 يوليو, 2025

        ثورة فيزيائية.. الضوء الذي صار سائلاً وصلباً

        ثورة فيزيائية.. الضوء الذي صار سائلاً وصلباً
        علوم وتكنولوجيا 29 يونيو, 2025

        صراع الشركات الكبرى على عباقرة الذكاء الاصطناعي

        صراع الشركات الكبرى على عباقرة الذكاء الاصطناعي
        علوم وتكنولوجيا 27 يونيو, 2025

        "واتساب" يلخّص المحادثات السابقة بالذكاء الاصطناعي

         "واتساب" يلخّص المحادثات السابقة بالذكاء الاصطناعي

      أترك تعليق

      تبقى لديك ( ) حرف

      الإفتتاحية

      • فيديو ترامب …الفضيحة الحوثية!
        فيديو ترامب …الفضيحة الحوثية!
        07 ابريل, 2025

      الأكثر قراءة

      • المعارضة السورية تطوّق دمشق وتدخل مدينة حمص
        المعارضة السورية تطوّق دمشق وتدخل مدينة حمص
        07 ديسمبر, 2024
      • المعارضة السورية تسطر الإنتصارات على أبواب حماة
        المعارضة السورية تسطر الإنتصارات على أبواب حماة
        04 ديسمبر, 2024
      • المعارضة السورية تسيطر على رابع مطار عسكري وتتقدم بريف حماة
        المعارضة السورية تسيطر على رابع مطار عسكري وتتقدم بريف حماة
        03 ديسمبر, 2024
      • فصائل المعارضة السورية تدخل دمشق وتبث «بيان النصر»
        فصائل المعارضة السورية تدخل دمشق وتبث «بيان النصر»
        08 ديسمبر, 2024
      • الوجه الجديد للمملكة العربية السعودية
        الوجه الجديد للمملكة العربية السعودية
        02 يونيو, 2023

      تقارير عربية

      • مصفاة عدن تعود من تحت الركام... وخطر التهديدات قائم
        مصفاة عدن تعود من تحت الركام... وخطر التهديدات قائم
        06 يوليو, 2025
      • المضايق المائية.. قنابل موقوتة في مفاصل العالم
        المضايق المائية.. قنابل موقوتة في مفاصل العالم
        04 يوليو, 2025
      • الفشل المركب.. المجلس الرئاسي وبدعة الحكم من الخارج
        الفشل المركب.. المجلس الرئاسي وبدعة الحكم من الخارج
        02 يوليو, 2025
      • الشيخ حنتوس.. ضحية صعدة التي تريد طلاء اليمن بمذهب واحد
        الشيخ حنتوس.. ضحية صعدة التي تريد طلاء اليمن بمذهب واحد
        01 يوليو, 2025
      • ليس كل صمت رضا: لماذا لم يثر اليمنيون على الحوثي؟
        ليس كل صمت رضا: لماذا لم يثر اليمنيون على الحوثي؟
        01 يوليو, 2025

      تقارير دولية

      •  تحوّلات جذرية في مسار الصراع مع المشروع الصهيوني
        تحوّلات جذرية في مسار الصراع مع المشروع الصهيوني
        05 يوليو, 2025
      • لقاء نتنياهو وترامب.. نتائج حرب إيران وترتيبات هدنة غزة على الطاولة
        لقاء نتنياهو وترامب.. نتائج حرب إيران وترتيبات هدنة غزة على الطاولة
        02 يوليو, 2025
      •  دمشق وتل أبيب.. فرص التطبيع وحدود التنازلات
        دمشق وتل أبيب.. فرص التطبيع وحدود التنازلات
        02 يوليو, 2025
      • الشرق الأوسط واستراحة الضرورة
        الشرق الأوسط واستراحة الضرورة
        02 يوليو, 2025
      • سلام الشرق الأوسط «البارد» يؤمن استقرار العالم!
        سلام الشرق الأوسط «البارد» يؤمن استقرار العالم!
        02 يوليو, 2025

      Facebook

      فيديو

      حوارات

      • الزنداني: هجمات البحر الأحمر أضرّت بخريطة الطريق والخيار العسكري ممكن
        12 مارس, 2025
      • الشرع: تجربتي في العراق علمتني ألا أخوض حرباً طائفيةً
        11 فبراير, 2025
      • آلان غريش: نتنياهو يخوض حرب الغرب الجماعي
        18 اكتوبر, 2024
      • الرئيس علي ناصر محمد : الشعب اليمني عصيّ على الطغاة والغزاة عبر التاريخ
        14 يونيو, 2024
      • غروندبرغ: التصعيد في البحر الأحمر أثر على مسار السلام في اليمن
        11 ابريل, 2024
      © 2017 alrai3.com