الثقة في الذكاء الاصطناعي الوكيل: تحديات التشريع والإنسان

مفهوم الذكاء الاصطناعي الوكيل وآفاقه

في ظل تسارع تحول الذكاء الاصطناعي من أدوات تستجيب للأوامر إلى أنظمة قادرة على اتخاذ قرارات وتنفيذ مهام بصورة شبه مستقلة، حذر مسؤولون وخبراء ومستثمرون من أن نجاح هذه التقنية لا يعتمد فقط على قوتها التقنية، بل على قدرة الحكومات والشركات على بناء منظومة ثقة تضمن بقاء الإنسان في مركز العملية decision-making.

الجلسة التي حملت عنوان “اختبار الثقة للذكاء الاصطناعي الوكيل” أدارتها لبنى بوظة، رئيسة قسم الاقتصاد في سكاي نيوز عربية، على هامش اجتماعات المنتدى الاقتصادي العالمي، وشارك فيها عمر سلطان العلماء وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد في الإمارات، ودومبا وزير الاقتصاد الرقمي والابتكار في الغابون، ويالدا عوكر الشريك المؤسس والشريك الإداري في شركة Bracket Capital.

وركز النقاش على notion of “الوكيل الذكي”، أي الجيل الجديد من الأنظمة التي تستطيع تنفيذ سلسلة من المهام واتخاذ قرارات متعددة دون الحاجة لتدخل بشري مباشر في كل خطوة.

وأشار المشاركون إلى أن هذه التقنية قد تفتح أمام الاقتصادات قفزة كبيرة في الإنتاجية والكفاءة، لكنهم أجمعوا على أن توسيع استخدامها يثير أسئلة جوهرية حول المسؤولية والرقابة والشفافية، خصوصًا عندما تبدأ هذه الأنظمة باتخاذ قرارات تؤثر على حياة الأفراد والشركات والمجتمعات.

الرؤية الإماراتية وضرورة الضوابط

قال عمر سلطان العلماء إن النقاش حول الثقة في الذكاء الاصطناعي يجب أن يبدأ من سؤال أوسع يتعلق بالثقة بين البشر أنفسهم، مشددًا على أن التكنولوجيا لا ينبغي أن تحل محل الإنسان في القرارات الحساسة، بل أن تكون أداة داعمة له.

وأوضح أن الوكلاء الرقميين يمكن أن يضيفوا قيمة كبيرة في الخدمات الحكومية والإجراءات الروتينية، لكنهم ما زالوا بحاجة إلى ضوابط واضحة عندما يتعلق الأمر بقرارات تمس مستقبل الأفراد أو فرصهم الاقتصادية أو حقوقهم الأساسية.

وكشف العلماء عن توجه إماراتي طامح لتوسيع استخدام الوكلاء الرقميين في الخدمات الحكومية، موضحًا أن الحكومة تستهدف تنفيذ نحو cincuenta بالمئة من الخدمات الحكومية الاتحادية عبر أنظمة ذكية خلال العامين المقبلين.

وأضاف أن النهج الإماراتي يعتمد على إدخال التكنولوجيا أولًا في المجالات الأقل حساسية والأدنى خطرًا، مثل الإجراءات الإدارية والخدمات الروتينية، قبل الانتقال إلى وظائف أكثر تعقيدًا.

ولضمان المتابعة، أنشأت الدولة منظومة رقابية متخصصة تراقب أداء الوكلاء الرقميين وتوثق قراراتهم وإجراءاتهم بصورة مستمرة، ما يتيح إمكانية تتبع الأخطاء ومراجعة القرارات في أي وقت.

وأكد أن الهدف النهائي من الاستثمار في الذكاء الاصطناعي لا يقتصر على خفض التكاليف أو زيادة الكفاءة، بل يتجه إلى تحسين جودة حياة الأفراد وتسهيل حصولهم على الخدمات، معتبرًا أن أي تقنية تفشل في خدمة الإنسان لا يمكن وصفها بالنجاح مهما بلغت من التقدم.

التحديات التنظيمية العالمية وتأثيرات اجتماعية

من جهته، سلط دومبا الضوء على التحديات التنظيمية المتزايدة التي تواجه الحكومات مع تطور الذكاء الاصطناعي السريع، مبينًا أن التشريعات الحالية في كثير من الدول لا تزال غير قادرة على مجاراة وتيرة الابتكار، ما يخلق فجوة بين التقدم التقني والإطار القانوني.

ودعا إلى تصميم آليات رقابية مدمجة داخل أنظمة الذكاء الاصطناعي نفسها، مثل ما يشبه “زر التوقف” أو الحدود الآمنة التي تمنع النماذج من اتخاذ قرارات قد تؤدي إلى نتائج غير مرغوبة.

ورأى أن العالم بحاجة ماسة إلى قواعد دولية مشتركة لتحديد المسؤولية القانونية والأخلاقية للقرارات التي تتخذها الأنظمة الذكية، خصوصًا في القطاعات الحيوية مثل الصحة والتمويل والأمن.

وتناول المشاركون أيضًا العقبات السياسية التي تحول دون التوصل إلى إطار عالمي موحد لتنظيم الذكاء الاصطناعي، مشيرين إلى أن المناقشات داخل مؤسسات كالأمم المتحدة ومجموعة العشرين ومجموعة السبع لم تسفر حتى الآن عن توافق شامل بشأن الضوابط اللازمة لهذه التكنولوجيا.

وأوضح أن الدول تتنافس على الريادة في مجال الذكاء الاصطناعي باعتباره محركًا رئيسيًا للنمو الاقتصادي والقوة الجيوسياسية مستقبلًا، ما يعقد الوصول إلى اتفاقات عالمية.

ومع ذلك، شدد على ضرورة وجود توافق دولي على الأقل بشأن الاستخدامات الأكثر حساسية، وفي مقدمتها أنظمة الأسلحة ذاتية التشغيل التي قد تتخذ قرارات باستخدام القوة أو القتل دون تدخل بشري مباشر.

من جانبها، لفتت يالدا عوكر الانتباه إلى تأثير الذكاء الاصطناعي على الأطفال والمراهقين، موضحة أن انتشار المساعدات الذكية ورفقاء الذكاء الاصطناعي الرقميين يطرح أسئلة جديدة حول أثر هذه التقنيات على النمو النفسي والاجتماعي للأجيال الجديدة.

وأضافت أن الأطفال يمثلون “اختبارًا حقيقيًا” لقدرة الشركات والحكومات على تطوير أنظمة آمنة ومسؤولة، محذرة من أن الاعتماد المفرط على التفاعل مع الأنظمة الذكية قد يخلق تحديات اجتماعية وسلوكية طويلة الأمد إذا لم تتم معالجتها مبكرًا.

ودعت إلى تبني مبدأ “الأمان منذ التصميم” بحيث تصبح الحماية جزءًا أصيلًا من تطوير النماذج بدلاً من إضافتها لاحقًا بعد ظهور المشكلات.

مستقبل الوظائف والخلاصة

ولم تغب عن النقاش المخاوف المتعلقة بمستقبل الوظائف وسوق العمل، حيث أكد المشاركون أن الذكاء الاصطناعي سيغير طبيعة العديد من المهن خلال السنوات القادمة، لكنهم أشاروا إلى أن التحدي لا يكمن في التكنولوجيا نفسها بقدر ما يكمن في قدرة المجتمعات على إعادة تأهيل الأفراد وتزويدهم بالمهارات الجديدة المطلوبة.

وفي هذا السياق، لفت العلماء إلى مبادرات إماراتية واسعة لتدريب الموظفين والأفراد على أدوات الذكاء الاصطناعي، مؤكدًا أن الهدف ليس فقط مواكبة التطور التقني، بل تمكين الناس من الاستفادة منه وخلق فرص اقتصادية جديدة.

وخلصت الجلسة إلى أن العالم يقف اليوم أمام لحظة مفصلية في تاريخ التكنولوجيا؛ فبينما يعد الوكيل الذكي بزيادة الإنتاجية ورفع الكفاءة وخلق نماذج أعمال جديدة، تتزايد المخاوف المتعلقة بالشفافية والمساءلة والسيطرة البشرية.

وأجمع المشاركون على أن مستقبل هذه التقنية لن يتحدد بقدراتها التقنية وحدها، بل بمدى نجاح الحكومات والشركات والمجتمع الدولي في بناء قواعد حوكمة تضمن أن يبقى الذكاء الاصطناعي أداة لخدمة الإنسان، لا بديلاً عنه.

الخلاصة أن مستقبل الذكاء الاصطناعي الوكيل لن يُحدد فقط بقدراته التقنية المتنامية، بل بقدرة الحكومات والشركات على بناء منظومة ثقة قائمة على الشفافية والمساءلة والرقابة البشرية، بينما ما زال العالم متأخرًا في وضع أطر الحوكمة اللازمة لضمان بقاء هذه التكنولوجيا في خدمة الإنسان وليس تحولها إلى مصدر جديد للمخاطر.