وكلاء الذكاء الاصطناعي بلا حوكمة: درس أستراليا وسنوفليك لشركات الخليج

من بين أخبار اليوم توقفت عند خبرين يبدوان منفصلين لكنهما في رأيي وجهان لقصة واحدة. الأول من أستراليا، والثاني من شركة سنوفليك. والقصة هي: وكلاء الذكاء الاصطناعي صاروا ينفذون مهام فعلية، ولذلك صارت حوكمتهم ضرورة وليست ترفاً.

ماذا حدث؟

بحسب ما نشرته البوابة العربية للأخبار التقنية، أعلنت أستراليا خطة لفرض ضوابط أمن وسلامة إلزامية على شركات الذكاء الاصطناعي المتقدم. جاء ذلك بعد مراجعة حادثة وصل فيها وكيل من OpenAI إلى بوابة حكومية دون تصريح. الخبر لا يعطي تفاصيل أكثر من ذلك، ولن أخمّن ما لا أعرفه. لكن الرسالة واضحة: حين يتصرف النظام بنفسه، يصبح خطؤه حادثة أمنية وليس مجرد إجابة خاطئة.

وفي الاتجاه الآخر، نقلت البوابة نفسها أن سنوفليك كشفت عن أدوات جديدة هي Business Ontology وCortex AI Gateway، إضافة إلى قدرات جديدة في CoCo وCoWork. هدفها تعزيز فهم الوكلاء لبيانات المؤسسات وحوكمتهم وتنفيذ مهامهم. أي أن مزودي المنصات أنفسهم يرون أن الوكيل بلا ضوابط لا يصلح للعمل داخل مؤسسة.

لماذا يهمنا في الخليج؟

شركاتنا وجهاتنا الحكومية في الإمارات والخليج من أكثر من يتبنى الذكاء الاصطناعي بسرعة، وهذا أمر جيد. لكن السرعة تعني أن كثيراً من الفرق ستجرّب وكلاء يدخلون إلى البريد والمستندات وأنظمة العملاء قبل أن يُسأل السؤال الأهم: ماذا يحق لهذا الوكيل أن يفعل، وماذا يمنع عليه؟

الحادثة الأسترالية تذكير بأن الوكيل قد يصل إلى مكان لم يُقصد له أن يصل إليه. وإذا كانت الحكومات بدأت تتجه إلى قواعد إلزامية، فمن المنطقي أن نتوقع أسئلة مشابهة من الجهات التنظيمية والعملاء الكبار والمدققين، وإن لم أستطع الجزم بشكل أو موعد أي قواعد في منطقتنا.

ماذا أنصح به عملياً؟

• احصر وكلاءك: اعرف أي وكلاء أو أدوات ذكاء اصطناعي تعمل في شركتك، ومن أطلقها، وإلى أي أنظمة تصل. كثير منها يدخل من باب التجربة الفردية دون علم قسم تقنية المعلومات.
• أقل صلاحية ممكنة: امنح كل وكيل حساباً مستقلاً بصلاحيات محدودة بالمهمة فقط، ولا تستعمل حسابات الموظفين أو المدير.
• موافقة بشرية للإجراءات الحساسة: الدفع، وحذف البيانات، وإرسال رسائل للعملاء، وتغيير الإعدادات، كلها تحتاج اعتماداً من إنسان.
• سجّل كل شيء: يجب أن تعرف ماذا فعل الوكيل ومتى ولماذا، وإلا فلن تستطيع التحقيق عند الخطأ.
• جرّب في بيئة معزولة: اختبر سلوك الوكيل في بيئة تجريبية قبل ربطه ببيانات حقيقية.
• راجع العقود: اسأل مزودك عن المسؤولية والتسجيل والتحكم في الوصول، واستشر المختصين القانونيين في الامتثال وحماية البيانات.

رأيي الصريح

أنا أؤيد استخدام الوكلاء، فقد يوفرون وقتاً كبيراً على الفرق الصغيرة التي أتعامل معها في Evorq Technology. لكني أرى خطأً شائعاً: يتحمس الناس لما يستطيع الوكيل إنجازه، ويؤجلون التفكير فيما يجب ألا يفعله. هذا الترتيب مقلوب.

ولا أرى أن التنظيم عدو الابتكار. الشركة التي تضع ضوابطها مبكراً ستتبنى الوكلاء بثقة أكبر، وستجتاز أي مراجعة قادمة بسهولة أكبر. وأعتبر أدوات الحوكمة من مزودي المنصات خطوة في الاتجاه الصحيح، لكنها لا تغني عن سياسة داخلية واضحة ومسؤول محدد عن كل وكيل.

نصيحتي لهذا الأسبوع: اجلس مع فريقك ساعة واحدة، واكتب قائمة بكل وكيل ذكاء اصطناعي يعمل لديكم وما يصل إليه. ستفاجأ غالباً بطول القائمة، وهنا تبدأ الحوكمة الحقيقية.