حذر مجلس الاستقرار المالي الدولي من مخاطر الاعتماد على الذكاء الاصطناعي في إدارة العمليات المصرفية والمالية، داعيًا البنوك والمؤسسات المالية إلى تعزيز الرقابة البشرية على الأنظمة القادرة على اتخاذ القرارات وتنفيذ المهام بصورة مستقلة. ويأتي هذا التحذير مع التوسع في استخدام تقنيات الذكاء الاصطناعي الوكيل، التي تستطيع تنفيذ سلسلة من الإجراءات لتحقيق أهداف محددة، بدلًا من الاكتفاء بالإجابة عن الأسئلة أو تقديم المعلومات.
وتثير هذه التقنيات تساؤلات بشأن حدود الصلاحيات الممنوحة للأنظمة الذكية، ومدى قدرتها على التعامل الآمن مع الأموال والبيانات الحساسة والخدمات المصرفية، خصوصًا في الحالات التي تتطلب قرارات دقيقة وسريعة. ووفقًا لتقرير نشرته وكالة رويترز، أصدر المجلس إرشادات نهائية لإدارة مخاطر الذكاء الاصطناعي الوكيل داخل القطاع المالي، بعد مراجعة توصيات سابقة في ضوء ملاحظات الجهات المعنية.
وتؤكد الإرشادات أهمية تحديد المهام التي يمكن للأنظمة تنفيذها بصورة مستقلة، وتلك التي تتطلب موافقة بشرية مسبقة، بما يساعد المؤسسات على الاستفادة من التكنولوجيا الحديثة دون تعريض العملاء أو استقرار النظام المالي لمخاطر غير محسوبة.
لماذا يحذر مجلس الاستقرار المالي من الذكاء الاصطناعي في البنوك؟
يركز تحذير مجلس الاستقرار المالي الدولي على التغير في طبيعة استخدام الذكاء الاصطناعي داخل المؤسسات المصرفية، إذ لم تعد التقنيات الحديثة مقتصرة على تحليل البيانات أو الرد على استفسارات العملاء، بل أصبحت قادرة على تنفيذ إجراءات متتابعة والتفاعل مع أدوات رقمية مختلفة. ويؤدي هذا التطور إلى زيادة المسؤولية الواقعة على المؤسسات التي تمنح الأنظمة الذكية صلاحيات واسعة. فعندما يتعلق الأمر بالتحويلات المالية أو إدارة الحسابات أو الوصول إلى معلومات العملاء، يمكن لأي خطأ في فهم التعليمات أو تنفيذها أن يترتب عليه أثر مالي أو تشغيلي. لذلك، يشدد المجلس على ضرورة وضع ضوابط واضحة تحدد نطاق عمل الأنظمة، وتضمن وجود موظفين قادرين على التدخل عند الحاجة.
ما المقصود بالذكاء الاصطناعي الوكيل؟
يشير مصطلح الذكاء الاصطناعي الوكيل، المعروف بالإنجليزية باسم Agentic AI، إلى أنظمة تستطيع التخطيط وتنفيذ مجموعة من الإجراءات لتحقيق هدف معين، مع إمكانية استخدام البرامج والأدوات الرقمية والاستجابة للمعلومات التي تحصل عليها أثناء العمل. وتختلف هذه الأنظمة عن روبوتات المحادثة التقليدية التي تركز أساسًا على توليد النصوص والإجابة عن الأسئلة، إذ يمكن للأنظمة الوكيلة الانتقال من تقديم الاقتراحات إلى تنفيذ خطوات فعلية. وفي القطاع المصرفي، قد تشمل الاستخدامات المحتملة أتمتة بعض الإجراءات التشغيلية وتحليل المعلومات ودعم الخدمات المقدمة للعملاء. لكن قدرتها على العمل بصورة مستقلة تجعل تحديد الصلاحيات ومراقبة النتائج أمرين أساسيين لتجنب الأخطاء.
لماذا تمثل الأنظمة المستقلة تحديًا للقطاع المصرفي؟
تتعامل البنوك مع معاملات مالية وبيانات شخصية وقرارات قد تؤثر بصورة مباشرة في العملاء، ولذلك فإن منح الأنظمة الذكية صلاحية تنفيذ الإجراءات دون مراجعة بشرية يضيف مستوى جديدًا من المخاطر. فقد تفسر هذه الأنظمة التعليمات بطريقة غير مقصودة، أو تتخذ خطوات لا تتوافق مع الهدف الذي حددته المؤسسة، أو تستمر في تنفيذ سلسلة من الإجراءات رغم ظهور معلومات جديدة تستدعي التوقف. وتزداد أهمية هذه المخاوف عندما تتصل الأنظمة بأكثر من برنامج أو قاعدة بيانات، لأن الخطأ الأول قد يؤدي إلى أخطاء أخرى. ولهذا، يتطلب الاستخدام الآمن تحديد حدود التشغيل ووضع آليات لإيقاف المهام عند اكتشاف سلوك غير متوقع.
الرقابة البشرية شرط أساسي لاستخدام الذكاء الاصطناعي
تؤكد الإرشادات أهمية الحفاظ على دور الإنسان في مراقبة الأنظمة الذكية، خاصة عندما تتعامل مع عمليات مرتفعة المخاطر أو بيانات حساسة. ولا يعني ذلك ضرورة مراجعة كل إجراء بسيط يدويًا، بل تحديد مستويات الرقابة بحسب طبيعة المهمة والنتائج المحتملة لأي خطأ. ويمكن للمؤسسات، على سبيل المثال، السماح للأنظمة بتنفيذ بعض الإجراءات الروتينية ضمن حدود محددة، مع اشتراط موافقة موظف مختص قبل إجراء تحويل مالي مهم أو اتخاذ خطوة يصعب التراجع عنها. ويساعد هذا النهج على الجمع بين سرعة الأتمتة والخبرة البشرية، كما يمنح البنوك قدرة أكبر على اكتشاف المشكلات مبكرًا والحد من آثارها.
لماذا تراجعت التوصيات عن وصف الذكاء الاصطناعي بالموظف الاصطناعي؟
من التعديلات التي تناولتها الإرشادات حذف توصية سابقة تدعو إلى التعامل مع أنظمة الذكاء الاصطناعي باعتبارها موظفين اصطناعيين. ويعكس هذا التغيير أهمية التمييز بين الأنظمة التقنية والعاملين البشر، فالنظام الذكي لا يمتلك بالضرورة فهمًا مماثلًا للفهم الإنساني، وقد يفسر الهدف المحدد له بطريقة تختلف عن توقعات المسؤولين عنه. كما أن قدرته على تنفيذ الإجراءات لا تعني أنه يستطيع تحمل المسؤولية المهنية أو التنظيمية عن نتائجها. ولذلك، تحتاج المؤسسات إلى تصميم ضوابط تتناسب مع طبيعة التكنولوجيا، بدلًا من الاعتماد على افتراض أن النظام سيتصرف مثل الموظف البشري في المواقف المعقدة.
كيف يمكن للبنوك تقليل مخاطر الذكاء الاصطناعي الوكيل؟
يمكن للبنوك تقليل المخاطر من خلال تطبيق مجموعة من التدابير، تبدأ بتحديد الصلاحيات الممنوحة لكل نظام، وتقييد وصوله إلى المعلومات والبرامج بحسب احتياجات المهمة. كما ينبغي اختبار الأنظمة قبل استخدامها في العمليات الفعلية، ومراقبة أدائها باستمرار، وتسجيل الإجراءات التي تنفذها لتسهيل مراجعتها عند وقوع خطأ. ومن المهم أيضًا وضع قواعد واضحة للحالات التي تستوجب موافقة بشرية، وتوفير وسائل لإيقاف العمليات غير المتوقعة أو التراجع عن الإجراءات الممكن إلغاؤها. ويساعد تدريب الموظفين على فهم قدرات الأنظمة وحدودها في تعزيز الرقابة، إلى جانب مراجعة الضوابط الأمنية والتنظيمية بصورة دورية مع تطور التكنولوجيا.
هل تمثل الإرشادات قانونًا دوليًا ملزمًا للبنوك؟
تكتسب إرشادات مجلس الاستقرار المالي أهمية من دور المجلس في متابعة المخاطر التي قد تؤثر في استقرار النظام المالي العالمي، لكنها لا تعني في حد ذاتها صدور قانون دولي ملزم لجميع البنوك. وتظل طريقة تطبيق التوصيات مرتبطة بالأطر التنظيمية والقوانين المعمول بها في كل دولة، وبمتطلبات الجهات الرقابية المختصة. ومع ذلك، يمكن لهذه الإرشادات أن تساعد المؤسسات المالية على تطوير سياساتها الداخلية وتقييم المخاطر المرتبطة باستخدام الذكاء الاصطناعي، خصوصًا مع زيادة الاعتماد على الأنظمة المستقلة. كما أنها تعكس اتجاهًا نحو تعزيز المساءلة والحوكمة، بحيث لا يقتصر تقييم التكنولوجيا على كفاءتها، بل يشمل أيضًا سلامة القرارات والإجراءات التي تنفذها.
الأسئلة الشائعة
ما سبب تحذير مجلس الاستقرار المالي الدولي؟
حذر المجلس من المخاطر التي قد تنشأ عندما تحصل أنظمة الذكاء الاصطناعي الوكيل على صلاحيات واسعة لتنفيذ المهام بصورة مستقلة داخل المؤسسات المالية. وتتمثل المخاوف في احتمال وقوع أخطاء تشغيلية أو إساءة التعامل مع البيانات الحساسة أو تنفيذ إجراءات غير مقصودة، بما قد يؤثر في أموال العملاء والخدمات المصرفية. ولهذا، يدعو المجلس إلى تعزيز الرقابة البشرية وتحديد المهام التي تحتاج إلى موافقة الموظفين قبل تنفيذها.
ما الفرق بين الذكاء الاصطناعي الوكيل وروبوتات المحادثة؟
تركز روبوتات المحادثة التقليدية على الإجابة عن الأسئلة وإنشاء النصوص وتقديم المعلومات، بينما تستطيع أنظمة الذكاء الاصطناعي الوكيل التخطيط وتنفيذ سلسلة من الخطوات لتحقيق هدف معين. وقد تتفاعل هذه الأنظمة مع برامج وأدوات رقمية مختلفة، وهو ما يمنحها قدرات تشغيلية أوسع. لكن هذه الاستقلالية تجعل تحديد الصلاحيات ومراقبة الإجراءات أمرين ضروريين، خاصة في القطاعات التي تتعامل مع الأموال والبيانات الشخصية.
هل ستتوقف البنوك عن استخدام الذكاء الاصطناعي؟
لا تعني الإرشادات ضرورة توقف البنوك عن استخدام الذكاء الاصطناعي، بل تستهدف تنظيم استخدامه وتقليل المخاطر المصاحبة للأنظمة القادرة على تنفيذ المهام بصورة مستقلة. ويمكن للمؤسسات الاستمرار في الاستفادة من هذه التقنيات في تحليل البيانات وتحسين الخدمات وأتمتة الإجراءات، مع وضع ضوابط تتناسب مع خطورة كل مهمة. ويظل تحقيق التوازن بين الابتكار والرقابة من أبرز التحديات أمام القطاع المصرفي.
متى تحتاج أنظمة الذكاء الاصطناعي إلى موافقة بشرية؟
تزداد الحاجة إلى الموافقة البشرية عندما تتضمن المهمة مخاطر مالية مرتفعة، أو تتطلب الوصول إلى بيانات حساسة، أو يمكن أن تؤدي إلى نتائج يصعب التراجع عنها. ويعتمد تحديد هذه الحالات على طبيعة العمليات وسياسات المؤسسة والضوابط التنظيمية المعمول بها. ويساعد وضع معايير واضحة للموافقة والتصعيد على الحد من الأخطاء، مع السماح للأنظمة بتنفيذ المهام الروتينية منخفضة المخاطر ضمن صلاحيات محددة.
هل تؤثر هذه التحذيرات في مستقبل الخدمات المصرفية الرقمية؟
من المرجح أن تزيد هذه التوصيات الاهتمام بالحوكمة والرقابة عند تطوير الخدمات المصرفية المعتمدة على الذكاء الاصطناعي. فالمؤسسات لن تحتاج فقط إلى تقييم سرعة الأنظمة ودقتها، بل ستحتاج أيضًا إلى التأكد من إمكانية تتبع إجراءاتها ومراجعة قراراتها والتدخل عند الضرورة. وقد يسهم ذلك في بناء ثقة أكبر في الخدمات الرقمية، شريطة تطبيق الضوابط المناسبة وعدم التعامل مع استقلالية الأنظمة باعتبارها بديلًا كاملًا عن المسؤولية البشرية.
