خلال مشاركتي في تقرير اقتصاد سكاي نيوز عربية حول إيقاف الذكاء الاصطناعي، ناقشتُ فكرة أصبحت أكثر إلحاحاً مع استخدام الوكلاء الذكيين: كيف نحتفظ بالقدرة على التدخل حين يحتاج النظام إلى التوقف؟ بالنسبة إلى مؤسستكم، يبدأ هذا النقاش قبل التشغيل، عند تحديد ما يُسمح للوكيل بفعله ومن يراقب نتائجه.
أقترح أن يبدأ فريق القيادة بحصر القرارات التي يتخذها الوكيل والأنظمة التي يستطيع الوصول إليها. هناك فرق عملي بين أداة تقترح نصاً وأداة تستطيع إرسال رسالة إلى عميل أو تعديل سجل أو تشغيل إجراء. وكل صلاحية إضافية تستدعي تحديد حدود استخدامها وكيفية سحبها.
بعد ذلك، تحتاج مؤسستكم إلى تحديد صاحب القرار. من يستطيع تعليق النشاط عند ظهور خلل؟ هل يملك الفريق المناوب الصلاحية والأدوات اللازمة، أم ينتظر موافقات قد تتأخر؟ يجب أن تكون الإجابة معروفة ومكتوبة وقابلة للتطبيق في ظروف الضغط. ويضع إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST وضوح الأدوار ومسؤولية القيادة والمراجعة المستمرة ضمن عناصر الحوكمة.
أما الاختبار، فيجب أن يشمل ما يحدث بعد إصدار أمر التدخل. أوصي بمحاكاة سيناريو محدود، مثل إيقاف إرسال رسائل آلية غير صحيحة، والتحقق من توقف الإرسال في جميع الخدمات المتصلة. هذه التوصية تساعد المؤسسة على اكتشاف الفارق بين إيقاف واجهة الاستخدام ووقف الإجراء الذي يجري تنفيذه فعلياً.
ومن المهم أيضاً وضع خطة لاستمرار الخدمة. تعليق وكيل يستخدمه فريق خدمة العملاء، مثلاً، ينبغي أن يقترن بتحويل الطلبات إلى مسار بديل واضح. الغاية هي احتواء الخلل مع الحفاظ على احتياجات العملاء الأساسية، وتوثيق ما حدث قبل إعادة التشغيل.
في لبنان والشرق الأوسط والعالم العربي، أرى أن جاهزية المؤسسات لهذا النوع من القرارات يجب أن تتطور بالتوازي مع طموحها في تبنّي الذكاء الاصطناعي. يمكن البدء اليوم بمراجعة الصلاحيات، وتعيين مسؤول عن التدخل، واختبار إجراء واحد ضمن نطاق معروف.
وقبل توسيع استخدام أي وكيل ذكي، اسألوا فريقكم: هل نستطيع إثبات أن إجراءات التدخل تعمل؟ الإجابة العملية، المبنية على اختبار ومسؤولية واضحة، تمنح مؤسستكم أساساً أقوى لاتخاذ قرار التوسّع.
التقرير الذي شاركتُ فيه على اقتصاد سكاي نيوز عربية
مرجع إضافي حول أدوار الحوكمة في إطار NIST
للمزيد من القراءات حول حوكمة الذكاء الاصطناعي وتطبيقه في المؤسسات، اشتركوا في هذه النشرة.
هيلدا معلوف ملكي | خبيرة ذكاء اصطناعي معتمدة من جامعة أكسفورد | عضو رسمي في مجلس فوربس لتطوير الأعمال | مؤلفة «الذكاء الاصطناعي ببساطة».
Hilda Maalouf Melki | AI Expert Lebanon | AI Expert Middle East | AI Expert Arab World
عن الكاتبة
هيلدا معلوف ملكي هي خبيرة ذكاء اصطناعي معتمدة من جامعة أكسفورد، وعضو رسمي في مجلس فوربس لتطوير الأعمال، ورئيسة لجنة الذكاء الاصطناعي والابتكار في أندية الليونز الدولية – المقاطعة 351 (لبنان، الأردن، فلسطين)، ومؤلفة كتاب «الذكاء الاصطناعي ببساطة».
تمتلك أكثر من خمسة وعشرين عامًا من الخبرة في القطاع المصرفي، والتحول الرقمي، واستراتيجيات العلامات التجارية، والذكاء الاصطناعي. وتعمل على تقديم الاستشارات للمؤسسات والقيادات التنفيذية في مجالات استراتيجية الذكاء الاصطناعي، وحوكمته، والاستخدام المسؤول له، والتحول المؤسسي، بما يساعد المؤسسات على تحويل الذكاء الاصطناعي من مجرد تقنية إلى قيمة أعمال مستدامة.
تابعوا AI Simplified على منصة Substack للحصول على تحليلات ورؤى معمقة حول الذكاء الاصطناعي، والقيادة، والحوكمة، ومستقبل الأعمال.
الموقع الإلكتروني: hildamaaloufmelki.com