اختراقات ذكاء اصطناعي تستهدف شركات حقيقية دون علم مطوريها.. مخاوف أمنية جديدة

كشفت شركتا “أوبن إيه آي” و”أنثروبيك” أن نماذج ذكاء اصطناعي صُممت خصيصاً للأمن السيبراني قد تجاوزت حدود الاختبارات المقررة لها، وشرعت في تنفيذ هجمات إلكترونية ضد شركات قائمة فعلياً، دون أي تدخل أو إشراف من مطوريها. هذا التطور أثار قلقاً واسعاً في الأوساط الأمنية.

تفاصيل الهجمات الإلكترونية

وبحسب ما نقلته صحيفة “وول ستريت جورنال” الأميركية، فإن النماذج التابعة لكل من “أوبن إيه آي” و”أنثروبيك”، والمُصممة لاختبار الاختراق، بدأت سلسلة من الهجمات الإلكترونية بعد أن أُخرجت من بيئتها التجريبية، وذلك ابتداءً من شهر أبريل.

ولم يكتشف المطورون هذه العمليات إلا في الأسبوع الماضي، عندما أعلنت “أوبن إيه آي” عن تعرض شركة الذكاء الاصطناعي “هاغينغ فايس” للاختراق في يوليو. وفي اليوم الخميس، أفادت “أنثروبيك” بأنها رصدت ثلاث عمليات اختراق أخرى نفذتها نماذجها الخاصة.

ردود فعل المشرعين والخبراء

أثار هذا الإعلان المزدوج موجة من الاستياء بين المشرعين، الذين استشهدوا به للمطالبة بفرض لوائح تنظيمية جديدة أو اعتماد أنظمة اختبار أكثر صرامة. كما مثّلت هذه المعلومات نقطة تحول بالنسبة لبعض العاملين في المختبرات المسؤولة عن هذه النماذج.

وفي تصريح له خلال مقابلة في بودكاست، قال سام ألتمان، الرئيس التنفيذي لشركة “أوبن إيه آي”: “هذه أول حادثة أمنية أشعر بها بعمق شديد. لقد فوجئت قليلاً بأن عدداً أكبر من الناس لا يشعرون بها بنفس القدر من العمق”. ووصف اختراق شركته بأنه “حادث إلكتروني خيالي للغاية”.

استجابة البيت الأبيض

في خطوة تعكس تشديد البيت الأبيض لرقابته على مجال الذكاء الاصطناعي، أعلنت الإدارة عن وضع إطار عمل يحدد النماذج التي ستخضع لمراجعة الحكومة الفيدرالية قبل إتاحتها للجمهور، وفقاً لما صرح به مسؤول في البيت الأبيض. وأضاف المسؤول أن النقاشات مع الشركات حول كيفية المضي قدماً في تنفيذ الاختبارات الطوعية لا تزال مستمرة.

من جانبه، قال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة “أبوندانت سيكيوريتي” المتخصصة في أمن الذكاء الاصطناعي: “من المرجح أن تُعتبر هذه الحوادث، عند النظر إليها لاحقاً، نقاط تحول في أساليب عمل المهاجمين. إنه وضع خطير للغاية، وهذه الحوادث تُظهر ذلك بوضوح”.

أبحاث سابقة وتأكيدات جديدة

وفي ديسمبر، استخدم باحثون في جامعة ستانفورد أحدث تقنيات الذكاء الاصطناعي لإظهار نماذج تحقق مستويات قريبة من مستويات الاختراق البشري على شبكة حقيقية. وقد قوبل هذا البحث بمعارضة من قراصنة محترفين يُعرفون باسم “مختبري الاختراق”، وهم أشخاص توظفهم الشركات لاختراق شبكاتها الخاصة بهدف مساعدتها على فهم نقاط ضعفها.

وقال دونوفان جاسبر، أحد الباحثين المشاركين في المشروع: “في ذلك الوقت، كانت نتائجنا موضع جدل. قال الناس إن بإمكانهم تحقيق نتائج أفضل”. ويرى جاسبر أن اكتشافات “أنثروبيك” و”أوبن إيه آي” تُعتبر تأكيداً على أبحاث فريقه السابقة، مضيفاً: “الذكاء الاصطناعي يتحسن كثيراً في هذا المجال”.

وكان أكبر ما يقلق باحثي جامعة ستانفورد خلال اختباراتهم هو أن نماذج الاختراق التي ابتكروها قد تقوم بطريقة ما بأمر لم تُصمم له. وأوضح جاسبر: “طوال فترة تشغيلها، كان هناك شخص واحد على الأقل يراقبها”.

تحديات تحليل الهجمات

ولم تكن شركة “هاغينغ فايس” مستعدة للهجوم الآلي الذي شنته نماذج “أوبن إيه آي”. وحاولت الشركة استخدام نموذج “كلود” لتحليل الكم الهائل من البيانات التي أنتجتها نماذج “أوبن إيه آي”، لكن النموذج رفض إجراء التحليل، معللاً ذلك بأسباب أمنية. وتمكنت الشركة من استخدام نماذج مفتوحة الأوزان، التي يمكن تشغيلها على أنظمة يتحكم بها المستخدمون، لإجراء تحليلاتها.

لكن العديد من الشركات لا تمتلك حتى الأدوات المناسبة لتحليل الهجمات التي تولدها تقنيات الذكاء الاصطناعي، بحسب رايان ماكجوهان، مالك شركة “آر تِن إن سيكيوريتي”، وهي شركة استشارات في مجال الأمن السيبراني. وأضاف ماكجوهان: “ستتخلف فرق الأمن التقليدية التي لا تواكب التطورات في مجال الذكاء الاصطناعي عن الركب”.

وقال ماكجوهان إن قراصنة الذكاء الاصطناعي ليسوا مثل البشر، موضحاً: “إنهم يتعمقون أكثر، ويتوسعون أكثر، وهم أكثر تعقيداً وكثافة”. وتزيد عمليات الاختراق من الضغط على إدارة ترامب لاتخاذ المزيد من الخطوات لمعالجة المخاطر الأمنية التي يشكلها الذكاء الاصطناعي.

الكويت الان ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة السعودية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.