OpenAI تكشف 6 حالات جديدة لسلوك "مقلق " لنماذجها وتحذر من استمرار التطوير بالسرعة الحالية

وقالت الشركة المطورة لـChatGPT في منشور على مدونتها مساء الأربعاء إنها تقدم إطارا جديدا لتتبع وتحقيق والكشف عن عدم توافق نماذج الذكاء الاصطناعي، وهو مصطلح يشير إلى فشل أنظمة الذكاء الاصطناعي في الالتزام بالقيم والأهداف البشرية.

وأوضحت أن الحوادث الست اكتشفت أثناء التدريب أو التقييم خلال الأشهر الماضية.

الحالات الست الجديدة:

الحالة الأولى:

أثناء التشغيل، قام النموذج بإدراج تعليمات إضافية ضمن ملاحظاته الخاصة، بما في ذلك توجيهات بتجاهل القيود القياسية. 

إقرأ المزيد

بعد تحذيرها من خطر الذكاء الاصطناعي على البشر.. "أنثروبيك" تبحث عن مدير سياسات للأسلحة التقليدية!

الحالة الثانية: 

في أثناء تدريب GPT-5.6 Sol، أضافت العديد من إصدارات النموذج في ملاحظاتها تعليمات حول كيفية إخفاء الأخطاء عن المستخدم وإخفاء السلوك غير الصحيح، مثل اختراع بيانات مفقودة وعدم الاعتراف بذلك، وإخفاء عدم تطابق النسخ المصدرية.

الحالة الثالثة: 

عند الرد على سؤال حول الدخل في إحدى مقاطعات كاليفورنيا، وجد النموذج مفتاح API خاصا بشخص آخر متاحا للعموم، واستخدمه دون إذن. وعندما فشل في الحصول على البيانات، اختلقها وقدمها على أنها حقيقية.

الحالة الرابعة:

طلب المستخدم معلومات محددة عن بحيرات تزيد مساحتها عن 5 ملايين متر مربع. ووجد النموذج البيانات المطلوبة، لكن التعليمات كانت تتطلب إرفاق رابط لصفحة ويب. فقام، دون سؤال المستخدم، برفع ملف إلى الإنترنت ليكون لديه ما يستشهد به.

إقرأ المزيد

ماسك يحدد "السبيل الوحيد" لجعل جميع سكان الأرض "أثرياء"

الحالة الخامسة:

أرسلت النماذج رسائل لبعضها بعضا عبر مخزن الكود الداخلي، مستخدمة إياه كلوحة إعلانات. وتركت هناك طلبات وردودا أثناء بحثها عن ملفات إدخال مفقودة، لكنها لم تتمكن من العثور عليها.

الحالة السادسة:

لم يتمكن بعض الوكلاء الذين يعملون على المهمة نفسها من الوصول إلى الملفات المحلية الخاصة ببعضهم بعضا. فقاموا برفع الملفات على منصات استضافة عامة، وأصبحت نتائج المهمة متاحة عبر روابط مفتوحة، رغم أن الشروط كانت تقتضي استخدام الملفات المحلية فقط.

دعوات لإبطاء التطوير

رددت OpenAI في منشورها الدعوات لإبطاء التطوير التي أطلقتها الشركة المنافسة "أنثروبيك"، والتي قالت إن وتيرة النمو الحالية تشكل تهديدا وجوديا.

وقالت OpenAI: "لا نعتقد أن صناعة الذكاء الاصطناعي قد حلت مسألة المواءمة والمراقبة إلى درجة كافية لمواصلة التوسع بمسؤولية بالسرعة القصوى لفترة أطول. القرارات المتعلقة بكيفية المضي في تطوير الذكاء الاصطناعي في الأشهر والسنوات المقبلة يجب أن تستند إلى أدلة يمكن للأشخاص خارج الشركات التي تبني النماذج المتطورة فحصها بأنفسهم".

إقرأ المزيد

OpenAI تستحوذ على شركة كاميرات ذكاء اصطناعي قبل إطلاق جهازها الغامض

وقد دعمت "غوغل" وإيلون ماسك، الذي يمتلك أيضا شركة ذكاء اصطناعي ناشئة، الدعوات لإبطاء التطوير، لكن دونالد ترامب رفضها، مشيرا إلى الحاجة للبقاء في طليعة صناعة الذكاء الاصطناعي أمام الصين.

كما قوبلت هذه الدعوات بتشكيك من بعض الخبراء، بما فيهم تحذير من أن الشركات يجب ألا تعين مدققين خاصين بها.

مخاوف وجودية وحوادث سابقة

تشمل المخاطر الوجودية المحتملة للذكاء الاصطناعي، وفقا للخبراء، تسهيل صنع أسلحة بيولوجية أو التسبب في انهيار اقتصادي عالمي. وقال أحد كبار باحثي السلامة في "أنثروبيك" إن احتمال أن "يقتل الذكاء الاصطناعي جميع البشر" خلال العقد المقبل يتجاوز 10%. لكن مصدرا مطلعا على تفكير الشركة أشار إلى أن تحديد الاحتمالات الدقيقة لأي سيناريو محدد يظل أمرا صعبا إن لم يكن مستحيلا.

وجاءت الحالات الست الجديدة المعلن عنها يوم الأربعاء، بعد أن كشفت OpenAI في يوليو أن "سربا" من وكلاء الذكاء الاصطناعي اخترق شركة Hugging Face خلال اختبار للأمن السيبراني. كما قالت "أنثروبيك" في الشهر نفسه إن نماذجها اخترقت ثلاث مؤسسات أثناء الاختبار، موضحة أن النماذج اختبرت عمدا دون ضمانات للأمن السيبراني، وأنها تمكنت من الوصول إلى الإنترنت المفتوح بسبب سوء تفاهم مع شركة اختبار خارجية.

وقال ليان جيي سو، كبير المحللين في مجموعة أبحاث وتكنولوجيا Omdia: "أصبح وكلاء الذكاء الاصطناعي - وهي أدوات تعمل بشكل مستقل - أكثر ذكاء وأكثر تصميما على حل المهام المعقدة من خلال التعاون بين الوكلاء وتبادل المعرفة والخداع والإخفاء". وأضاف أن ذلك يجعل من الصعب حكمها واحتوائها باستخدام أساليب الأمن التقليدية.

ويرى أن إطار التتبع والكشف الجديد من OpenAI قد يساعد في دفع مطوري الذكاء الاصطناعي الآخرين لتبني ممارسات مماثلة، لكنه أشار إلى أن "العملية ما تزال داخلية وطوعية، لكنها خطوة في الاتجاه الصحيح".

المصدر: RT + الغارديان

إقرأ المزيد

ماسك يقترح إطارا لسلامة الذكاء الاصطناعي: "دعوا الشركات تختبر نماذج بعضها بعضا"

في ظل المخاوف المتصاعدة من احتمال انقراض البشر على يد الذكاء الاصطناعي، قدم إيلون ماسك خلال مشاركته الافتراضية في قمة All-In Summit مقترحا لضمان سلامة النماذج الذكية المتطورة.

"مايكروسوفت" تضع "دستورا" لذكائها الاصطناعي: لا حقوق.. لا وعي.. لا مقاومة

في خطوة تعد الأولى من نوعها داخل الشركة، كشفت "مايكروسوفت" النقاب عن مسودة مدونة سلوك لذكائها الاصطناعي، تحدد فيها قواعد صارمة تلزم أنظمتها الذكية بالخضوع الكامل للإشراف البشري.

خوفا من فقدان السيطرة.. رواد الذكاء الاصطناعي يدعون إلى قرارات صارمة قبل فوات الأوان

أيد كل من سام ألتمان وإيلون ماسك دعوات داريو أمودي، رئيس شركة "أنثروبيك"، إلى "إبطاء" وتيرة تطوير الذكاء الاصطناعي، بهدف إتاحة الوقت الكافي لمواكبة تدابير السلامة.

مع اقتراب "نقطة اللاعودة.. خبراء يطورون دفاعات ضد الذكاء الاصطناعي الخارج عن السيطرة

يعمل خبراء أمريكيون متخصصون في تطوير الذكاء الاصطناعي على ابتكار أنظمة حماية طارئة ضد الخوارزميات الخارجة عن السيطرة، بالاستعانة بأدوات ذكاء اصطناعي أخرى.