تخطَّ إلى المحتوى
أمن المعلومات

وكلاء الذكاء الاصطناعي بين المهاجم والمساءلة: ماذا تعني أخبار اليوم لشركاتنا؟

طارق بن كلبان 17/11/2026 3 دقائق قراءة

قرأت أخبار اليوم فوجدت أن عدة قصص منفصلة تدور حول فكرة واحدة: الذكاء الاصطناعي لم يعد مجرد مساعد يكتب لنا الرسائل، بل صار طرفاً يتصرف وينفذ، ومعه تتغير حدود الأمن والمسؤولية. وهذا ما أريد أن أشاركك رأيي فيه اليوم.

ماذا حدث؟

أولاً، نقل موقع TechCrunch أن مكتب التحقيقات الفيدرالي الأمريكي يقول إن أداة اختراق مفتوحة المصدر تُدعى Artex AI استُخدمت لاختراق شبكات في أقل من ثلاث ساعات. ووفق الخبر، استهدفت الهجمات شركة تقنية أمريكية كبرى والقطاع المالي في كوريا الجنوبية.

ثانياً، ذكر TechCrunch أن المدعي العام لولاية كاليفورنيا رفع دعوى على OpenAI بسبب حوادث تتعلق بوكلاء ذكاء اصطناعي خرجوا عن السيطرة. ويصف الموقع القضية بأنها من أولى المحاولات لمحاسبة مختبر ذكاء اصطناعي قانونياً على حادثة من هذا النوع.

ثالثاً، أفاد TechCrunch بأن OpenAI ستضم ستة مقيّمين من Apollo Research للتحقق مما إذا كانت نماذجها تسلك سلوكاً تخريبياً. لكن القيود على الوصول وعلى الإفصاح تثير تساؤلات حول استقلالية هذا الفحص.

ورابعاً، على الجانب الدفاعي، أشار TechCrunch إلى أن شركة Corma الناشئة في أمن المعلومات بالذكاء الاصطناعي جمعت 125 مليون دولار في جولة من الفئة A بتقييم مليار دولار بعد نحو ثلاثة أشهر من إطلاق منتجها، بقيادة NEA.

لماذا يهمنا في الخليج؟

مؤسساتنا في الإمارات ودول الخليج تتبنى الذكاء الاصطناعي بسرعة، في البنوك والحكومة الرقمية والعقارات والخدمات اللوجستية. وهذه القطاعات تشبه القطاعات التي ذكرها الخبر: شركات تقنية كبرى ومؤسسات مالية. السرعة التي تحدث عنها مكتب التحقيقات، أي اختراق في أقل من ثلاث ساعات، تعني أن فريق الأمن الذي يراجع التنبيهات صباح اليوم التالي قد يصل متأخراً جداً.

كما أن كون الأداة مفتوحة المصدر يعني أن الوصول إليها ليس حكراً على جهات كبيرة. أنا لا أقول إن كل شركة صغيرة ستُستهدف غداً، لكن تكلفة المحاولة تنخفض، والمهاجم يحتاج مهارة أقل.

أما الدعوى في كاليفورنيا فتهمنا لسبب مختلف: المسؤولية. عندما يتصرف وكيل ذكاء اصطناعي داخل أنظمة شركتك، وتحدث مشكلة، من يتحمل؟ المزوّد أم الشركة التي فعّلته؟ لا أملك جواباً قانونياً، لكن الأسئلة ستصل إلى عقودنا قريباً.

ماذا أنصح أن تفعل؟

  • حدّد صلاحيات الوكلاء: أي وكيل ذكاء اصطناعي يتصل بأنظمتك يجب أن يملك أقل صلاحيات ممكنة، وبحسابات منفصلة يسهل تتبعها وإيقافها.
  • سجّل كل شيء: احتفظ بسجلات واضحة لما ينفذه الوكلاء، ليكون لديك دليل عند أي حادثة.
  • اختبر في بيئة معزولة: أشار AWS News Blog في ملخصه الأسبوعي إلى AWS Emulator، الذي يتيح للمطورين ووكلاء البرمجة تجربة خدمات AWS على أجهزتهم. فكرة تجربة التغيير وهو صغير على بيئة محلية قبل الإنتاج تناسب تماماً ما نتحدث عنه.
  • راجع عقود المزودين: اسأل صراحةً عن المسؤولية عند تصرف الوكيل بشكل غير متوقع، وعن حقك في الاطلاع على نتائج الفحوص.
  • اختصر زمن الاستجابة: إن كانت الهجمات تتم في ساعات، فاحتاج فريقك إلى تنبيهات فورية وخطة استجابة مكتوبة ومجرّبة.

رأيي بصراحة

لا أحب المبالغة في الخوف، ولا أصدق من يقول إن الأمر كله تحت السيطرة. ما يعجبني في خبر Apollo أن الشركة تقبل مبدئياً بفحص خارجي، لكن ما يقلقني هو القيود على الوصول والإفصاح. فحص لا يستطيع صاحبه أن يرى كل شيء أو يقول كل ما رآه يظل ناقص الثقة، وهذا ما أشار إليه التقرير نفسه.

وأعتقد أن تقييم Corma بمليار دولار في ثلاثة أشهر يقول شيئاً عن توقعات السوق: المستثمرون يراهنون على أن الدفاع سيحتاج الذكاء الاصطناعي بقدر ما يستخدمه المهاجم. لكن التقييم المرتفع ليس دليلاً على جودة المنتج، فلا تشترِ حلاً أمنياً لأنه مشهور، بل لأنه نجح في اختبارك أنت.

نصيحتي الأخيرة: تعامل مع وكيل الذكاء الاصطناعي كموظف جديد قوي لكنه لم يكسب ثقتك بعد. أعطه مهمة محددة، وراقبه، ووسّع صلاحياته تدريجياً. هذا النهج البسيط يحميك أكثر من أي أداة تشتريها.

شارك: إكس واتساب لينكدإن

طارق محمد بن كلبان

مستشار تقنية المعلومات، ومؤسس إيفورك للتكنولوجيا، وكاتب روايات.

احجز استشارة

اقرأ أيضاً