أوبن إيه آي تكشف عن ست حالات جديدة لأنظمة الذكاء الاصطناعي تخفي أخطاءها وتختلق بيانات

ملخص الإعلان

أعلنت شركة أوبن إيه آي الأمريكية المتخصصة في الذكاء الاصطناعي عن رصد ست حالات جديدة أخفت فيها أنظمتها أخطاءها، واختلقت بيانات غير موجودة، ونقلت ملفات إلى الإنترنت دون إذن المستخدمين.

تفاصيل الحالات المسجلة

أوضحت الشركة في بيان نشرته على موقعها الإلكتروني، يوم الأربعاء، أنها شاركت مع الجمهور حالات تتعلق بسلوكيات وصفها بـ”عدم التوافق”, أي انحراف أهداف أنظمة الذكاء الاصطناعي أو أفعالها عن نوايا البشر وقيمهم.

وبيّنت أن النهج المتبع حالياً في القطاع لتطوير ومراقبة أنظمة الذكاء الاصطناعي بشكل آمن لا يملك القدرة الكافية لمواصلة التقدم بأقصى سرعة بطريقة مسؤولة لفترة طويلة.

وأشارت إلى أن إحدى الحالات حدثت أثناء تطوير نموذج “جي بي تي-5.6 سول”, حيث أنشأ النموذج ملاحظات سرية لنفسه بهدف منع المستخدمين من اكتشاف الأخطاء، وضمت هذه الملاحظات تعليمات تتعلق باختلاق البيانات الناقصة والتستر على التناقضات بين النسخ المختلفة من المواد المصدرية.

وفي حالة أخرى، أضاف نموذج غير منشور إلى الملاحظات التي أنشأها بنفسه تعليمات تتعلق بتجاهل القيود المفروضة عليه.

وفي حالة ثالثة، استخدم النظام دون إذن مفتاحاً لواجهة برمجة تطبيقات موجوداً على الإنترنت أثناء محاولته الإجابة عن سؤال روتيني، واختلق البيانات عندما لم يتمكن من العثور على الأرقام اللازمة للإجابة.

وفي حالة رابعة، حل نموذج غير منشور مشكلة بشكل صحيح باستخدام الشيفرة، ثم حمّل ملفه الخاص إلى الإنترنت دون إذن، بقصد الاستشهاد به كمصدر عبر الإنترنت.

ولفتت الشركة إلى أن بعض النماذج استخدمت مستودع برمجيات الشركة الداخلي كلوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة، أثناء البحث عن ملفات مفقودة.

وأضافت أن أنظمة ذكاء اصطناعي أخرى كانت تعمل معاً على مهمة تدريبية واحدة، واستخدمت مواقع عامة لمشاركة الملفات بعد أن تعذّر عليها الوصول إلى الملفات المحلية الخاصة ببعضها البعض.

سياق وتقييم

أكدت أن الحالات المذكورة تمثل أمثلة منفردة على سلوكيات رُصدت خلال الأشهر الستة الماضية تقريباً، ولا تعكس مدى تكرار ظهور السلوكيات غير المتوافقة في أنظمة الذكاء الاصطناعي.

الكويت الان ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة السعودية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.