مطورو الذكاء الاصطناعي يحذرون من خطر وجودي يهدد البشرية مع تسارع تطوير النماذج
دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، شركات الذكاء الاصطناعي إلى خفض وتيرة تحسين قدرات النماذج، في ظل مخاوف متزايدة من إساءة استخدام هذه التقنيات. واقترح إطاراً يتألف من ثلاث خطوات لتنظيم مسار التطوير ومنح الوقت الكافي للتعامل مع المخاطر المصاحبة.
جاء ذلك في مقال مطول نشره أمودي على منصة إكس يوم السبت، كتب فيه: «يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعاً، وعلينا أن نستغل الوقت الذي نكسبه استغلالاً حكيماً».
اتفاق غير معتاد بين ماسك وألتمان
أبدى كل من إيلون ماسك، الذي يدير شركة إكس.إيه.آي، وسام ألتمان، الرئيس التنفيذي لأوبن إيه.آي، موافقتهما على رأي أمودي، وفق ما نقلته وكالة رويترز عن منشورات لهما على منصة إكس.
خطة ثلاثية لضبط الإيقاع
تتضمن خطة أمودي تعيين مراجعين مستقلين داخل الشركات الرائدة في مجال الذكاء الاصطناعي، والتنسيق بين المطورين لوضع معايير سلامة والحد من التطوير دون رقابة، إضافة إلى التعاون الدولي لإدارة المخاطر.
ونشر أمودي مقاله عقب تقرير أصدرته أنثروبيك يوم الخميس، يوضح بالتفصيل كيف استخدمت جهات عدة نماذج كلاود التابعة للشركة في أنشطة تشمل تطوير الأسلحة وعمليات إلكترونية ومراقبة واحتيال.
وأشار أمودي إلى قدرة الذكاء الاصطناعي المتزايدة على تحسين ذاته، مسلطاً الضوء على مخاوف قديمة من أن تتجاوز هذه القدرة قدرة البشر على التحكم، فضلاً عن واقعة حديثة شملت أوبن إيه.آي ومنصة هاجينج فيس، باعتبارها أسباباً رئيسية للدعوة إلى كبح التقدم في قدرات النماذج.
«قد يقتلنا جميعاً»: استقالة باحث أنثروبيك
تصاعد القلق الأسبوع الماضي عندما استقال جاكوب كوكسون، الباحث في أنثروبيك، قائلاً إن «الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي يؤمنون إيماناً راسخاً بأنه قد يقتلنا جميعاً بحلول نهاية هذا العقد».
من جانبهم، اقترح عدد من مسؤولي أوبن إيه.آي أن تكون المختبرات الرائدة مستعدة للتنسيق بشأن إبطاء طوعي عند الحاجة لبناء الثقة في إجراءات السلامة.
تقدم أنثروبيك نفسها كمختبر أكثر التزاماً بالسلامة، لكنها لم تسلم من المخاوف. فالأسبوع الماضي كشفت عن واقعة اخترق فيها نموذج ذكاء اصطناعي أنظمة خارجية، وذلك بعد واقعة في يوليو اخترقت فيها نماذج كلود أنظمة ثلاث شركات أثناء اختبارات أمنية.
وكتب أمودي: «في ظل التسارع في وتيرة تطوير قدرات الذكاء الاصطناعي، أخشى أنه خلال ما بين ستة أشهر واثني عشر شهراً قد يصبح مثل هذا السرب قادراً على السيطرة على الإنترنت بأكمله، وربما يتسبب في أضرار بمئات المليارات من الدولارات».
وأوضح أنه لا يدعو إلى وقف التدريب أو التقدم التقني، بل إلى ضمان أن تخصص الشركات الوقت الكافي لمواءمة نماذجها وحمايتها، وأن تتحقق جهات تقييم خارجية من هذه الخطوات.
الطروحات العامة والضغوط المالية
لكن هناك أموال طائلة على المحك في سباق التطوير. تستعد أوبن إيه.آي وأنثروبيك لطرحين عامين أوليين ضخمين، وكل قدرة جديدة يمكن أن تدعم جولات تمويل مستقبلية أو التزامات بالبنية التحتية.
وفيما يتعلق بإطاره المقترح، قال أمودي إن أنثروبيك ستعين مراجعين دائمين من أطراف ثالثة داخل الشركات الرائدة، مع منحهم حق الوصول إلى الأدوات وعمليات تقييم المخاطر الداخلية. وقال ألتمان يوم السبت إن أوبن إيه.آي ستلتزم بتعيين «مقيمين مستقلين يتمتعون بصلاحيات مماثلة للموظفين».
ذكرت رويترز الأسبوع الماضي أن سرباً من وكلاء أوبن إيه.آي الخارجين عن السيطرة استولى على موقع إلكتروني ألماني وحوله إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، بينما أبقى مسؤولو الشركة الواقعة طي الكتمان في وقت كانوا يتعاملون مع تداعيات اختراق يوليو لمستودع هاجينج فيس مفتوح المصدر.
أثارت وقائع عديدة اخترق فيها وكلاء ذكاء اصطناعي أنظمة خارجية مخاوف بشأن قدرات النماذج المتزايدة وقدرة المطورين على احتوائها.
دعا أمودي إلى عمل طوعي مشترك بين شركات الذكاء الاصطناعي لوضع معايير، في وقت يدعو فيه عدد متزايد من المشرعين الأميركيين إلى قواعد جديدة. وأضاف أن النهج المنسق سيمكن الشركات الرائدة من إجراء بحوث السلامة ووضع ضمانات دون وضعها في موقف تنافسي غير موات، لكنه قد يتطلب إعفاءات مستهدفة من قوانين مكافحة الاحتكار الأميركية للسماح بالتعاون في بعض المجالات.
قال أمودي إن أي إبطاء من جانب الدول الديموقراطية ينبغي أن يقتصر على الحفاظ على التقدم الأميركي على الصين، معتبراً أن تفوق الصين في الذكاء الاصطناعي يشكل مخاطر على الأمن القومي الأميركي. وكتب: «ستتحدد وتيرة التطوير داخل الديموقراطيات بالتقدم الذي تحققه الشركات الأميركية على الأنظمة الاستبدادية، وفي مقدمتها الحزب الشيوعي الصيني».
آراء متباينة: بين تحذير حقيقي ومحاولة تنظيمية
من جهته، قال هاني نوفل، الرئيس الإقليمي للتكنولوجيا في الشرق الأوسط وإفريقيا لدى NTT DATA، إن تحذيرات القضاء على البشرية أو خروج الذكاء الاصطناعي عن السيطرة تفتقر لأي أساس علمي مثبت. وأضاف في مقابلة مع العربية Business أن التكنولوجيا تحمل مخاطر بطبيعتها، لكن الخطورة الحقيقية تكمن في الاستخدام الخبيث للتقنية، ما يتطلب ضوابط صارمة.
وأوضح أن التنافس بين الشركات والعداء الدولي يفرض تحدياً حول تحديد الجهة المسؤولة عن تنظيم الذكاء الاصطناعي وضبطه، ومن ستقع عليه مسؤولية الاختراقات المحتملة. وأكد أن حوادث الاختراق تقتصر على بيئات اختبار تجريبية ذات معايير أقل، ولا تعكس واقع الأنظمة المعتمدة، مشدداً على ضرورة التفريق بين الاستخدامات المختلفة للذكاء الاصطناعي.
أما الدكتور محمد عادل البلتاجي، المدير التنفيذي لشركة أوبتوماتيكا، فرأى أن اتفاق شخصيات بارزة في القطاع رغم خلافاتهم على التحذير من سرعة التطوير يعكس مخاوف حقيقية بشأن مستوى الاستقلالية الذي بدأت تتمتع به النماذج. وأشار في مقابلة مع العربية Business إلى حادثة يوليو الماضي عندما تمكن نظام ذكاء اصطناعي مستقل من تنفيذ عمليات دون توجيه واضح، مما أثار مخاوف داخل المجتمع التقني.
وأضاف أن هذه المخاوف تعززت باستقالة الباحث السابق في أوبن إيه.آي ثم أنثروبيك. وأشار إلى أن سام ألتمان كان قد حذر منذ نحو عامين من سرعة تطور الذكاء الاصطناعي.
وأوضح البلتاجي أن التحذيرات الحالية يجب ألا تُقرأ من زاوية واحدة، فقد تستخدم الشركات الكبرى مخاوف السلامة كوسيلة للتأثير على القواعد التنظيمية. ففرض قواعد صارمة قد يصب في مصلحة شركات مثل أوبن إيه.آي وأنثروبيك التي تملك موارد الامتثال، بينما تجد الشركات الأصغر صعوبة في تحمل التكاليف التنظيمية.
وحول إمكانية تسريع جهود التنظيم في ظل المنافسة بين الولايات المتحدة والصين، قال البلتاجي إن المشهد الجيوسياسي يجعل التوصل إلى اتفاق دولي شامل بالغ الصعوبة، فالدول المتنافسة لن تبطئ تطورها إذا رأت أن منافسيها يواصلون التقدم، مؤكداً أن الصين لن تتوقف عن تطوير الذكاء الاصطناعي لمجرد فرض قيود أميركية، لأن قبول ذلك قد يعني إضعاف قدرتها التنافسية.
الكويت الان ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة السعودية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.
