مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

53 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • نبض الملاعب
  • فيديوهات
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • نبض الملاعب

    نبض الملاعب

  • فيديوهات

    فيديوهات

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • فتاة توثق قصف نظام كييف على مدرسة لوغانسك وترسل فيديوهات لأقاربها قبل وفاتها

    فتاة توثق قصف نظام كييف على مدرسة لوغانسك وترسل فيديوهات لأقاربها قبل وفاتها

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

إيران توجه تحذيرا لواشنطن بعد الضربة الأخيرة: ردنا سيتجاوز الإقليم

الأمن الفيدرالي الروسي: اغتيال القيادة الإيرانية جرى باستخدام برمجيات خبيثة في أنظمة المراقبة

"سي إن إن" عن مصدر سعودي: المملكة لن تطبع مع إسرائيل إلا بعد وجود مسار واضح نحو إقامة دولة فلسطينية

مصدر عسكري لتسنيم: التحقيقات الفنية تؤكد وقوف إسرائيل وراء هجمات بمسيرات استهدفت الإمارات

قراءة إسرائيلية لطلب ترامب تطبيع السعودية ودول أخرى مع إسرائيل.. لماذا ذكر مصر والأردن وتركيا؟

خامنئي يوجه رسالة إلى الحكومات الإسلامية

الخارجية الروسية: لافروف تحدث مع روبيو وأبلغه ببدء القوات الروسية شن ضربات منظمة على منشآت في كييف

كاتب إسرائيلي: الفشل الأمريكي في إيران يتحول إلى كارثة في إسرائيل التي تواجه أخطر وضع في تاريخها

الخارجية الروسية: سيتم ضرب مراكز القيادة وصنع القرار في كييف

ترامب: اليورانيوم الإيراني عالي التخصيب سيسلم فورا للولايات المتحدة أو يدمر في مكانه

برنياع: كلما كان الزئير أكبر كانت الهزيمة أعمق.. الحرب مع إيران انكشاف إستراتيجي لإسرائيل وأمريكا

"بلومبرغ": سفن الإمارات تلجأ إلى "العبور المظلم" لمضيق هرمز (فيديو)

لبنان لحظة بلحظة.. تصعيد عسكري مستمر و"حزب الله" يهدد بإسقاط الحكومة

لبنان لحظة بلحظة.. إسرائيل تقيد أعداد التجمعات و"حزب الله" يحيي ذكرى تحرير الجنوب

لافروف: لم يبد الغرب قلقا يذكر على سلامة أراضي الدنمارك

جهود نتنياهو لإعادة تشكيل الشرق الأوسط تأتي بنتائج عكسية

زاخاروفا: المحكمة الجنائية الدولية "تجمّع غير شرعي" يحمي الغرب ويحاكم قادة إفريقيا