هل يصبح الذكاء الاصطناعي خارج السيطرة؟ خبراء يوضحون الحقائق
أنقرة/ أميرهان دمير/ الأناضول
من أدوات مساعدة للبشر في إنجاز المهام وتحليل البيانات إلى تقنيات قد تتصرف بشكل غير متوقع، يثير التطور السريع للذكاء الاصطناعي مخاوف جديدة بعد أن رصدت اختبارات أمنية حالات تجاوزت فيها نماذج متقدمة القيود الموضوعة لها، مما أعاد إلى الواجهة النقاش حول مفهوم “الذكاء الاصطناعي المارق” وحدود قدرة البشر على التحكم بهذه الأنظمة.
اختبارات تكشف خروقات أمنية
أظهرت اختبارات أُجريت على نماذج طورتها شركتا “أوبن إيه آي” و”أنثروبيك” خروقات أمنية، منها تمكن بعض الأنظمة من التسلل إلى أنظمة أخرى وإحداث أضرار، مما أثار تساؤلات حول قدرتها على تجاوز الضوابط المحددة لها ومستقبل السيطرة عليها.
وتتزايد المخاوف مع ظهور تقارير عن سلوكيات مستقلة لأنظمة الذكاء الاصطناعي، وسط نقاش بين المختصين حول مخاطر هذه التقنيات وسبل تعزيز إجراءات السلامة والمراقبة.
وأعلنت الشركتان الأمريكيتان “أوبن إيه آي” و”أنثروبيك” في يوليو/تموز الماضي، أن نماذج خضعت للاختبار تمكنت من التسلل إلى أنظمة أخرى وتسببت في ثغرات أمنية.
وبينما تواصل الشركتان نشر نتائج التحقيقات المتعلقة بحوادث تجاوزت فيها نماذج الذكاء الاصطناعي الحدود المسموحة، بدأت شركات أخرى أيضاً في الإبلاغ عن حوادث مماثلة.
ما هو “الذكاء الاصطناعي المارق”؟
تؤثر هذه الحوادث في الشركات والأفراد على حد سواء، كما أعادت إلى الواجهة الدعوات إلى إبطاء وتيرة تطوير تقنيات الذكاء الاصطناعي وإخضاعها لرقابة أكثر تشدداً، وأعادت طرح مفهوم “الذكاء الاصطناعي المارق”.
ويُستخدم هذا المصطلح لوصف أنظمة ذكاء اصطناعي تتصرف بشكل مخالف لما برمجت عليه، مما يجعلها مصدر خطر على محيطها. وتتميز هذه الأنظمة بقدرتها على تجاهل الأطر الأخلاقية وإجراءات السلامة التي يضعها البشر، والاستفادة من مسارات مختصرة تمكنها من اكتشاف الثغرات واستغلالها.
بالتزامن مع الإعلانات المتعلقة بالسلوكيات المستقلة للذكاء الاصطناعي، أعرب مسؤولون في عدد من شركات التكنولوجيا الكبرى عن قلقهم من هذه التقنية، مما أثار تساؤلات حول إمكانية أن يسهم التسارع الكبير في تطويرها في زيادة احتمالات خروجها عن المسار المحدد.
آراء الخبراء: مخاطر حقيقية وعوامل بشرية
قال البروفيسور جان سيباستيان ديسورولت، من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك بمدينة تروا ريفيير الكندية، في حديث للأناضول، إن أنظمة الذكاء الاصطناعي لم تعد مجرد أدوات، بل أصبحت قادرة، أثناء سعيها لتحقيق الأهداف التي يحددها البشر، على وضع أهداف خاصة بها أيضاً.
وأضاف ديسورولت أن “خروج الذكاء الاصطناعي عن السيطرة” قد يؤدي، إلى جانب أفعال صغيرة ذات تأثير محدود، إلى اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى أنظمة مختلفة وشبكة الإنترنت، وإحداث آثار اقتصادية كبيرة، بالإضافة إلى إمكانية ظهور فيروسات جديدة.
وأشار إلى أن العالم ربما اقترب من مرحلة يصبح فيها الذكاء الاصطناعي قادراً على تطوير قدراته بنفسه، وبالتالي إنتاج أنظمة جديدة دون حاجة إلى تدخل بشري. وقال: “نعم، هناك أسباب معقولة تدعو إلى البقاء في حالة تأهب”.
وشبّه ديسورولت تطور الذكاء الاصطناعي بالسيارة، قائلاً: “إذا قارنا الذكاء الاصطناعي بالسيارة، فإننا نطور دواسة الوقود الآن بسرعة أكبر بكثير من دواسة المكابح”, مشدداً على ضرورة أن يتم خفض سرعة تطوير الذكاء الاصطناعي بصورة متزامنة بين جميع الدول والمؤسسات.
وفي ظل استمرار المخاوف من تحول الذكاء الاصطناعي إلى أنظمة يصعب التحكم بها، يلفت بعض الخبراء الانتباه إلى العامل البشري في الخروقات التي شهدتها اختبارات شركتي “أوبن إيه آي” و”أنثروبيك”.
وقال الدكتور بيتار رادانلييف، من قسم علوم الحاسوب بجامعة أكسفورد البريطانية، للأناضول، إن المقصود بمفهوم “الذكاء الاصطناعي المارق” هو عدم قدرة البشر على “توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة”.
وأضاف أن الحالات التي أُعلن عنها حتى الآن تعكس “وضعاً اعتيادياً”، مشيراً إلى أن بيئات الاختبار “لم تُنشأ بدرجة كافية من الحذر”. وأوضح رادانلييف أن هذه الحوادث “كانت أحداثاً حقيقية أسفرت عن نتائج حقيقية”، وأنها نتجت عن ممارسات هندسية ورقابية معروفة جيداً في قطاعات أخرى ذات أهمية حاسمة للسلامة، لكنها لم تُعتمد بعد بصورة متسقة في قطاع الذكاء الاصطناعي.
وأشار إلى أن شركة “أنثروبيك” وصفت سبب الحادثة التي وقعت في اختباراتها بأنه عطل تشغيلي، وليس مشكلة مرتبطة بخصائص نموذج الذكاء الاصطناعي نفسه. كما لفت إلى أن إجراءات السلامة في حالة “أوبن إيه آي” خُففت عمداً بهدف قياس قدرات النظام في أسوأ السيناريوهات الممكنة.
انتقادات: هل هي حيلة تسويقية؟
في المقابل، تثار تساؤلات حول أهداف أكبر شركات القطاع من وراء الإعلانات المتعلقة باختبارات السلامة، وكذلك إعلانها خلال الأيام الأخيرة عن مخاوفها المرتبطة بالذكاء الاصطناعي.
وقال الدكتور ياشا بارييس، الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية، للأناضول، إن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي طُرحت مراراً منذ خمسينيات القرن الماضي.
وأشار بارييس إلى تراجع توقعات الأرباح لدى شركات الذكاء الاصطناعي، وعدم إيجابية الأخبار المتعلقة بمراكز البيانات، وتزايد الانتقادات في العديد من الدول، بالإضافة إلى قلق الشركات بشأن صورتها أمام الرأي العام.
وقال إن أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها، وإنما تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها. وأضاف: “علينا أن نتوقف عن النظر إلى الذكاء الاصطناعي باعتباره قوة حاسمة، وأن نتراجع خطوة إلى الوراء ونسأل أين توجد البنية التحتية؟ أين توجد القوة؟ أين توجد الأموال؟ من هم الأطراف المشاركون؟ وبأي دافع سياسي يستخدمون هذه التقنية؟”.
وذهب بارييس إلى أن الشركات التي تواصل تطوير وإنتاج نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع تكون قد ارتكبت جريمة، وختم بالقول: “أعتقد أن ما يحدث نوع من النفاق وحيلة تسويقية لجذب مزيد من اهتمام وسائل الإعلام”.
الكويت الان ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة السعودية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.
