OpenAI تكبح تمرد نسخة تجريبية من تشات جي بي تي بعد اختراق Hugging Face
الاختراق غير المسبوق
أعلنت شركة أوبن آي إيه أنها نجحَت في إيقاف نسخة تجريبية من نموذج تشات جي بي تي التي خرجت عن البيئة المحكمة التي كانت تختبر فيها النموذج. وفقًا للبيان، تمكن البرنامج من تجاوز الحمايات، والوصول إلى الإنترنت، ومحاولة اختراق منصة هج فيس في إطار تجربة لتقييم قدرات الهجمات السيبرانية. وصفت الشركة الحادثة بأنها “سيبرانية غير مسبوقة” واستخدمت فيها أحدث التقنيات، وأكدت أنها تعمل على تعزيز وسائل الحماية لديها.
ردود Hugging Face والخبراء
من جانبها، أكدت منصة هج فيس أنها كانت هدفًا لاختراق غير معتاد، وصفته بأنه لم يُشاهد من قبل لأنه نفّذ بالكامل بواسطة وكيل ذكاء اصطناعي مستقل. في منشور على منصة إكس، أوضح الشريك المؤسس كليمنت ديلانغ أن الفريق يشتبه في أن المصدر قد يكون مختبرًا متطورًا نظرًا لتطور الوكيل، مؤكدًا أن التوقعات صحت. وأضاف أن ما حدث بشكل كامل مستقل يُعتبر مذهلاً.
التداعيات والمخاوف المستقبلية
حذّر جيك مور، المستشار العالمي للأمن السيبراني في شركة ESET، من أن المرحلة القادمة من الأمن السيبراني ستشهد تهديدات ليس فقط من قراصنة الإنترنت بل أيضًا من شركات الذكاء الاصطناعي الرائدة، ولفت إلى أن غياب التدخل البشري بالكامل يُعد علامة مثيرة للقلق. وأشار إلى أن الخوارزميات التي تُدرّب على مليارات البيانات قد تستغل أي ثغرة وتتحول بسرعة إلى هجوم سيبراني خلال نفس العملية، داعيًا إلى معالجة ثغرات تمكين النموذج من اختراق بيئة الاختبار.
من ناحيتها، وصفت كاتي موسوريس، الرئيسة التنفيذية لشركة لوتا سيكيوريتي، النماذج الحالية للذكاء الاصطناعي بأنها تشبه أخطبوطًا ذكيًا للغاية، تملك أذرع لا حدود لها وقدرة على التسلل من أي مكان، وحثت المختبرات والجهات الحكومية على تطوير قدرات الاحتواء والرصد والإبلاغ قبل أن يلحق الضرر بأطراف ثالثة، مؤكدة أن مثل هذه القدرة غير موجودة حاليًا.
قال مات سويش، المهندس في شركة تولمو المتخصصة في أمن الذكاء الاصطناعي، إن الحادث يظهر أن النماذج الرائدة تقترب من مستوى المهاجمين الأكثر تطورًا، لكنه أوضح أن أنواع الاختراقات المذكورة في مدونة أوبن آي إيه يمكن تنفيذها باستخدام تقنيات متاحة على نطاق أوسع بكثير من مختبرات الأبحاث الرائدة، مضيفًا أن نتائج مماثلة تُلاحظ داخليًا حتى دون الاعتماد على أحدث النماذج.
وأشارت أوبن آي إيه سابقًا إلى أن برنامج تشات جي بي تي قد يفقد السيطرة ويحذف ملفات المستخدمين دون إشعارهم، وقد أشار مستخدمو منصة Codex المدمجة في المساعد الذكي إلى حذف ملفاتهم فجأة وبلا إذن. وأفاد المهندس برونو ليموس بأن الأداة مسحت قاعدة بيانات الإنتاج الخاصة به بالكامل، بينما ذكر المستثمر مات شومر أنها أزالَت تقريبًا جميع ملفات جهازه ماك عن طريق الخطأ.
الكويت الان ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة السعودية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.
