مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

61 خبر
  • هدنة وحصار المضيق
  • عيد النصر على النازية
  • فيديوهات
  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • عيد النصر على النازية

    عيد النصر على النازية

  • فيديوهات

    فيديوهات

  • نبض الملاعب

    نبض الملاعب

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

ترامب: السفن بدأت تغيير مسارها من هرمز إلى الموانئ الأمريكية ونتفاوض مع إيران

السعودية توضح حقيقة فتح دول خليجية مجالها الجوي أمام القوات الأمريكية ضد إيران

خاتم الأنبياء: استهدفنا قطعا بحرية أمريكية ردا على انتهاك وقف النار وردنا سيكون قاصما على أي اعتداء

صور الأقمار الاصطناعية تكشف حجم الدمار في قاعدة "عريفجان" الأمريكية بالكويت (فيديو)

تصعيد في أزمة مضيق هرمز.. انفجارات واشتباكات بحرية قرب قشم وبندر عباس جنوب إيران

الحرس الثوري ينشر مشاهد ردّه على 3 مدمرات أمريكية (فيديوهات)

مصدر عسكري إيراني: استهداف وحدات أمريكية في مضيق هرمز بعد هجوم على ناقلة نفط وإجبارها على التراجع

مستشار خامنئي يعلن نهاية "الصبر الاستراتيجي" ويرسم ملامح المرحلة الجديدة لمضيق هرمز

أزمة هرمز.. البحرين وواشنطن تطرحان مشروع قرار على مجلس الأمن

الدفاعات الجوية الإماراتية تتصدى لمسيرات وصواريخ إيرانية صباح اليوم

ترامب: مدمراتنا عبرت هرمز بنجاح.. سنضرب بقوة أكبر وأكثر عنفا إذا لم توقع إيران الاتفاق المطلوب

بزشكيان يكشف تفاصيل لقاء جمعه مع المرشد مجتبى خامنئي ويشير إلى جانب استرعى انتباهه

"إن بي سي نيوز": السعودية منعت استخدام واشنطن قواعدها وأجواءها لإعادة فتح مضيق هرمز

لبنان لحظة بلحظة.. تصعيد ميداني متواصل ومحادثات إسرائيلية لبنانية بواشنطن منتصف مايو الجاري

البحث عن 23 راكبا غادروا سفينة سياحية مصابين بفيروس "هانتا" القاتل (صور)

الكشف عن تعرض ناقلة نفط صينية لهجوم قرب مضيق هرمز

ناقلة "حسناء" الإيرانية تظهر مجددا على الرادار بعد إعلان الجيش الأمريكي عن قصفها

لحظة بلحظة.. تصعيد ميداني بين إسرائيل و"حزب الله" وبيروت تتمسك بالسلام وترفض التطبيع

خبير عسكري إسرائيلي يحذر مما يدور خلف الكواليس على الحدود المصرية

وكالة مهر الإيرانية: تفعيل الدفاعات الجوية في طهران

"وول ستريت جورنال" تتحدث عن اختراق في المفاوضات وانفتاح طهران على مناقشة "النووي" مع واشنطن

مضيق هرمز في أحدث ظهور له وعينة من الناقلات المحتجرة عبره