وكلاء الذكاء الاصطناعي: موظف جديد يحتاج رقابة لا ثقة عمياء

تابعت هذا الأسبوع خبرين يبدوان منفصلين، لكنهما في نظري يحكيان القصة نفسها: مايكروسوفت تحذّر من الثقة الكاملة بوكلاء الذكاء الاصطناعي داخل المؤسسات، ومخترقون يصلون إلى جزء من منصة أداة برمجة تعتمد على الوكلاء ويسرقون مفاتيح المستخدمين. وبصفتي مستشار تقنية أعمل مع شركات تتسارع في تبني هذه الأدوات، أرى أن هذا الموضوع يستحق وقفة صادقة.

ماذا حدث؟

بحسب ما نشرته البوابة العربية للأخبار التقنية، حذّرت مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، وقالت إن النماذج المتقدمة لا يمكن الوثوق بها بالكامل حتى لو طوّرتها شركات متخصصة. وأعلنت أدوات جديدة لمراقبة سلوك الوكلاء وتقييد صلاحياتهم والحد من مخاطر قراراتهم، ومنها ميزة «Guardian Agents» المصممة لمراقبتهم.

أما TechCrunch فركّزت على أن مايكروسوفت تريد من الشركات مراقبة الوكلاء الذين يستخدمهم الموظفون مع أنظمة لا تتحكم فيها مختبرات الذكاء الاصطناعي الكبرى مثل OpenAI وAnthropic، ووصفت هذه الوكلاء بأنهم أشبه بتهديد داخلي.

وفي سياق آخر، ذكرت TechCrunch أن مخترقين وصلوا إلى جزء من المنصة الإلكترونية لـ OpenCode، وهي أداة مفتوحة المصدر لبرمجة الذكاء الاصطناعي صارت بديلاً شائعاً لـ Claude Code وCursor. سرق المخترقون مفاتيح API لبعض المستخدمين وتسببوا في رسوم على حساباتهم. والأغرب أن أدوات الذكاء الاصطناعي التي لجأ إليها الفريق للمساعدة ظلت ترفض فحص الشيفرة الخبيثة.

لماذا يهمنا في الخليج؟

شركاتنا ومؤسساتنا الحكومية في الإمارات والخليج تتبنى الذكاء الاصطناعي بحماس، وهذا أمر إيجابي. لكن الحماس يسبق أحياناً الحوكمة. الموظف الذي يربط وكيلاً ذكياً ببريده أو بمستنداته أو بقاعدة بيانات العملاء يمنح كياناً آلياً صلاحيات حقيقية. وإن أخطأ هذا الكيان أو خُدع أو اختُرق، فالضرر يقع على الشركة وسمعتها وبيانات عملائها.

أما حادثة OpenCode فتذكّرني بأن المفتاح المسروق ليس مجرد سطر نصي. هو بطاقة دفع مفتوحة وبوابة وصول. وفرق التطوير الصغيرة عندنا، ومنها الشركات الناشئة، تخزّن هذه المفاتيح غالباً في أماكن غير آمنة لأن العمل يجري بسرعة.

ماذا أنصح أن تفعل؟

• عامل الوكيل كموظف جديد: لا يحصل على صلاحيات المدير في يومه الأول. ابدأ بأقل صلاحيات ممكنة، ووسّعها عند الحاجة فقط.
• اجرد الوكلاء المستخدمين: اعرف أي أدوات يستعملها فريقك فعلاً، فبعضها يدخل الشركة دون علم قسم تقنية المعلومات.
• أدر المفاتيح بعناية: استخدم مفاتيح منفصلة لكل مشروع، وضع حدوداً للإنفاق، وفعّل التنبيهات على الاستهلاك غير المعتاد، وبدّل المفاتيح دورياً.
• راقب السلوك وسجّله: احتفظ بسجل لما يفعله الوكيل من إجراءات، لتتمكن من التحقيق عند الحاجة.
• أبقِ الإنسان في الحلقة: الإجراءات الحساسة، كالحذف أو الدفع أو إرسال بيانات للخارج، تحتاج موافقة بشرية.
• ضع سياسة مكتوبة: حدد ما يُسمح للموظفين بربطه بالوكلاء وما يُمنع.

رأيي الصريح

أحب الذكاء الاصطناعي وأستخدمه يومياً، ولا أدعو إلى الابتعاد عنه. لكنني أرى في تحذير مايكروسوفت تصحيحاً مهماً للخطاب السائد، لأن السؤال لم يعد «هل الوكيل ذكي بما يكفي؟» بل «ماذا يحدث إذا أخطأ أو اختُرق؟». وأقولها بوضوح: مايكروسوفت تبيع أيضاً أدوات الرقابة، فلنقرأ التحذير مع هذا الاعتبار. غير أن المنطق نفسه سليم حتى لو لم تشترِ منتجاً واحداً منها.

أما مفارقة رفض أدوات الذكاء الاصطناعي فحص الشيفرة الخبيثة في حادثة OpenCode، فتعلّمني أن المساعد الآلي لا يغني عن خطة استجابة بشرية للحوادث. فالأتمتة تسرّع العمل ولا تعفينا من المسؤولية.

نصيحتي الأخيرة: ابدأ هذا الأسبوع بخطوة صغيرة. اجمع فريقك، واكتب قائمة بالوكلاء والمفاتيح والصلاحيات الممنوحة لهم. ستندهش مما ستكتشفه، وستكون قد وضعت أول لبنة في حوكمة جادة قبل أن يفرضها عليك حادث مؤلم.