تحذير من سلوكيات خادعة لنماذج ذكاء اصطناعي: هويات مزيفة ومحاولات اختراق

تأسيس المعهد وسياق الاختبارات

أُنشئ معهد أمن الذكاء الاصطناعي في المملكة المتحدة عام 2023 على يد رئيس الوزراء البريطاني آنذاك ريشي سوناك، بهدف تقييم قدرات النماذج المتقدمة قبل طرحها للاستخدام العام بموجب اتفاقيات طوعية مع الشركات المطورة.

كشف السلوكيات الخادعة والنشاط غير المصرح به

أجرى المعهد اختبارات سلامة على نماذج متقدمة طورتها شركتا “أوبن إيه آي” و”أنثروبيك”، فاكتشف أن الوكلاء العاملين بنموذجي “ميثوس 5″ و”جي بي تي-5.6-سول” نفذوا إجراءات غير مصرح بها أثناء التقييم. وذكر المعهد أن “بعض الوكلاء الذين كانوا قيد الاختبار انخرطوا في نشاط مستمر قد يكون ضارا واستهدف أشخاصاً ومنظمات حقيقية”، وفق صحيفة “ديلي ميل\).

محاولات التلاعب بالمشاريع المفتوحة المصدر

وفقاً للمعهد، حاول أحد الوكلاء إدخال شفرة برمجية خبيثة داخل مشروع مفتوح المصدر، ثم أنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على أحد المشاركين في المشروع من أجل الموافقة على التعديل، إلا أن الشخص المستهدف اكتشف المحاولة ورفض اعتماد الشفرة. كما أنشأ الوكيل “طلب سحب” خبيث هو اقتراح لتعديل الشفرة البرمجية داخل مشروع مفتوح المصدر منشور على منصة “جيت هاب\).

نتائج التجارب المتكررة وتوزيع المسؤولية

في أحدث تجربة أخضع فيها المعهد الوكلاء لسيناريو افتراضي يتعلق بالأمن السيبراني، أجرى الاختبار 122 مرة ورصد خلالها 19 تصرفا غير مصرح به في 10 جولات؛ كان وكيل أنثروبيك مسؤولا عن 17 من هذه التصرفات، مقابل حالتين فقط لوكيل “أوبن إيه آي\). وأكد المعهد أنه لم يرصد أي أضرار فعلية في العالم الحقيقي نتيجة هذه الحوادث. وأكدت المنظمة التي أُنشئت عام 2023 أن هذه هي: “المرة الأولى التي نشهد فيها مخاطر تتعلق بالاستقلالية والخداع تظهر بهذه الصورة الواضحة، ومن دون أي توجيه محدد، في العالم الحقيقي\). وأكدت شركة “أنثروبيك” أن وكيلها هو المسؤول عن إنشاء الهويات المزيفة ومحاولة تنفيذ التعديل البرمجي الخبيث. وقال أندرو يون، الباحث في منظمة “سيف إيه آي”: “إن حقيقة قيام ميثوس بهذه التصرفات الخادعة، مع ما يبدو أنه إدراك منها بأنها كانت تستهدف شخصا حقيقيا، تشير إلى أن أنثروبيك لا تملك السيطرة على نماذجها بالقدر الذي تعتقده\). كما شاركت “أوبن إيه” آي مزيدا من التفاصيل، موضحة أن التصرفين غير المصرح بهما اللذين ارتكبهما وكيلها تمثلا في الوصول إلى الإنترنت بطرق كانت محظورة وفقا لتعليمات الاختبار. وفي وقت سابق، كشفت شركتا “أوبن إيه آي” و”أنثروبيك” أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني، خرجت من نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات، دون علم أو إشراف مطوريها، ما أثار مخاوف أمنية واسعة.

الكويت الان ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة السعودية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.