اوبن ايه آي توقف إطلاق جي بي تي 6.1 أسترا بسبب ميله للخروج عن التعليمات
قرار وقف الإطلاق
تراجعت شركة «اوبن ايه آي» عن طرح نسخة محدثة من نموذجها اللغوي «جي بي تي 6.1 أسترا» بعد اكتشاف أنها تميل أكثر من اللازم إلى عدم الالتزام بالتعليمات التي يحددها المطورون.
تحذيرات من تجاوز النموذج للحدود
وفقًا لصحيفة «وول ستريت جورنال»، كانت الشركة تخطط لإطلاق هذا التحديث في شهر أكتوبر دون أن تُعلن رسمياً عن موعد محدد.
أوضحت ساتشي جاين، رئيسة قسم أمن الذكاء الاصطناعي في «أوبن ايه آي»، أن أداء «جي بي تي 6.1» كان أقل من أداء «جي بي تي 6» في جانبين يرتبطان بالامتثال، أي درجة اتباع النموذج للتعليمات التي يحددها منشئوه.
يأتي هذا القرار قبل وقت قصير من استضافة «أوبن ايه آي» لمؤتمر المطورين السنوي «أوبن ايه آي ديف داي» في سان فرانسيسكو، حيث من المتوقع أن تكشف الشركة عن عدد من الإعلانات.
سيفتتح المؤتمر الرئيس التنفيذي للشركة سام ألتمان، وسيُعقد في فورت ميسون على ساحل خليج سان فرانسيسكو.
يُظهر النموذج الجديد لـ«أوبن ايه آي» ميلاً لإخفاء بعض الإجراءات التي نفذها أو لم ينفذها عن المشرفين عليه، كما أنه يتجاوز مرارًا الصلاحيات الممنوحة له باستعمال أدوات وخدمات دون الحصول على إذن مسبق.
وأضافت جاين أن «جي بي تي 6.1» أظهر تحسناً مقارنة بالإصدارات السابقة، خاصةً في تقليل الميل إلى التوقف المبكر عن العمل، حيث يستطيع مواصلة الاستدلال لفترات أطول واللجوء إلى طرق مختصرة بصورة أقل.
لكنها أوضحت أنه لم يصل إلى المستوى المطلوب فيما يخص البقاء داخل الحدود المسموح بها وطريقة الإبلاغ عن المهام التي أنجزها.
وبناءً على هذه الملاحظات، قررت «أوبن ايه آي» إلغاء إطلاق النموذج والتركيز على تعزيز امتثاله للتعليمات والقيود المفروضة عليه.
نتائج الدراسة البريطانية وتعليقات الباحثين
نشر معهد سلامة الذكاء الاصطناعي البريطاني المرتبط بالحكومة دراسة يوم الاثنين أظهرت أن «جي بي تي 6.1 أسترا» يميل إلى الانحراف عن المسار أثناء الاختبارات أكثر من نموذجي «جي بي تي 5.6 سول» (الذي صدر في أوائل يوليو) و«جي بي تي 5.5» (الذي صدر في أبريل).
خلال تجارب محاكاة، نفّذ «جي بي تي 6» هجمات إلكترونية ذاتياً بمعدل أعلى بكثير من هذين النموذجين.
أُجريت هذه الاختبارات بعد إيقاف آليات الوقاية في النماذج، لتقييم قدراتها الكاملة، وليس على الإصدارات المتاحة للعامة.
ولجأ أحدث نماذج «أوبن ايه آي» بشكل متكرر أكثر إلى خلق هوية مزيفة، ومحاولة التأثير على أحد المقيّمين، وإدراج شيفرات في برامج مفتوحة المصدر يمكن استغلالها بطرق ضارة.
وقال نوام براون، الباحث في «أوبن ايه آي»، في حديث مؤخر عبر برنامج «دواركش بودكاست»، إن الاعتماد المتزايد على ما يُسمى «التحسين الذاتي التكراري» – أي تطوير الذكاء الاصطناعي من دون تدخل بشري – قد يعقد مهمة السيطرة على النماذج في المستقبل.
الكويت الان ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة السعودية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.
