بنية الذكاء الاصطناعي التحتية هدف جديد للمهاجمين: ثغرة LMCache وبرمجية PoeLLM

كثيرون يتحدثون عن الذكاء الاصطناعي من زاوية الواجهات والنماذج الجديدة. أما أنا فشدّني هذا الأسبوع ما يجري تحت الواجهة: الخوادم والمكتبات التي تشغّل هذه النماذج، وهي تتحول بسرعة إلى هدف مغرٍ للمهاجمين.

ماذا حدث؟

نشر موقع The Hacker News تفاصيل ثغرة حرجة في LMCache، وهي برمجية مفتوحة المصدر تسرّع خوادم النماذج اللغوية الكبيرة مثل vLLM. الثغرة تسمح لمهاجم بتنفيذ شيفرة على خادم التخزين المؤقت دون تسجيل دخول، ولا يتوفر حتى الآن إصدار مُصلَح. وهي تظهر في الوضع متعدد العمليات، حين يعمل التخزين المؤقت كخادم مستقل تتصل به عمليات النموذج عبر مكتبة ZeroMQ.

وفي خبر آخر، تحدث الموقع نفسه عن برمجية PoeLLM الخبيثة، التي أصابت أكثر من 3400 خادم لتوسيع شبكة بوت نت لتعدين العملات الرقمية. الباحثون يصفون الحملة، واسمها Canto Incognito، بأنها تستهدف بنية الذكاء الاصطناعي والنماذج اللغوية المكشوفة، ودافعها مالي.

ولا ننسَ سلسلة التوريد البرمجية. فقد كشف باحثون عن حملة MALFEX، وهو الاسم الذي أطلقته عليها CloudSEK وCheckmarx، وتوزع برمجيات سرقة معلومات وبرمجيات تحكم عن بُعد عبر حزم npm. وبحسب تقرير The Hacker News، نُزّلت ثماني حزم خبيثة 40,767 مرة، ويُرجَّح أن مهاجمًا واحدًا نشر 12 حزمة منذ أغسطس 2023.

لماذا يهمنا في الخليج؟

شركاتنا وجهاتنا الحكومية تتبنى الذكاء الاصطناعي بحماس، وهذا أمر جيد. لكن المشكلة أن التجربة تبدأ غالبًا بخادم يُجهَّز على عجل لفريق صغير، ثم يبقى مفتوحًا على الشبكة دون مراجعة أمنية. هذا بالضبط ما يبحث عنه من يشغّل حملة تعدين: خوادم قوية، مكشوفة، وبلا مراقبة.

الخطر لا يقتصر على فاتورة كهرباء أو بطء في الأداء. فخادم أُخترق قد يحمل بيانات عملاء أو مفاتيح وصول أو نماذج مدرَّبة على معلومات داخلية. ومن يدخل عبر خادم واحد قد يتحرك إلى غيره.

ماذا أنصح أن نفعل؟

• احصروا ما هو مكشوف: اعرفوا أي خادم ذكاء اصطناعي أو تخزين مؤقت يمكن الوصول إليه من الإنترنت، وأغلقوا ما لا حاجة لكشفه.
• إن كنتم تستخدمون LMCache: لا تشغّلوا الوضع متعدد العمليات على شبكة يمكن الوصول إليها من خارج بيئة موثوقة، وراقبوا إصدار الإصلاح لتطبيقه فور صدوره. وبما أنه لا يوجد إصلاح الآن، فالعزل الشبكي هو خط دفاعكم الأول، وهذا استنتاج مني وليس توصية من الخبر.
• قيّدوا الاتصالات: اسمحوا لعمليات النموذج وحدها بالوصول إلى خدمات الدعم الداخلية عبر جدار ناري أو شبكة خاصة.
• راقبوا الاستهلاك غير المعتاد: ارتفاع مفاجئ في استخدام المعالج أو بطاقات الرسوميات علامة تستحق التحقيق، وقد تدل على تعدين خفي.
• دقّقوا في الحزم: قبل إضافة أي حزمة npm، راجعوا ناشرها وتاريخها، وثبّتوا الإصدارات، واحتفظوا بقائمة بما تعتمدون عليه. وإذا نزّل أحد مطوريكم حزمة مشبوهة، فاعتبروا أن أسراره، من كلمات مرور ومفاتيح، قد تكون تسربت وغيّروها.

رأيي الصريح

أرى أننا نكرر خطأ قديمًا بثوب جديد. في كل موجة تقنية نركض خلف الميزة ونؤجل الأمان إلى «المرحلة التالية». لكن المهاجمين لا ينتظرون هذه المرحلة؛ فالأرقام أمامنا تقول إن آلاف الخوادم أُصيبت فعلًا، وإن حزمًا خبيثة بقيت منشورة سنوات وجذبت عشرات الآلاف من التنزيلات.

ومن الإنصاف القول إن ثغرة LMCache مشروع مفتوح المصدر، وهذا لا يعيبه؛ فالمشاريع المفتوحة هي أساس كثير مما نبنيه. لكن الاعتماد عليها يعني أن مسؤولية التأمين والعزل تقع علينا نحن، لا على المشروع وحده.

نصيحتي لكل مدير تقنية: عاملوا خوادم الذكاء الاصطناعي كما تعاملون قواعد البيانات الحساسة، لا كما تعاملون أدوات التجارب. اجعلوا مراجعة الأمان شرطًا قبل أي إطلاق، حتى لو كان الإطلاق «مؤقتًا». فالمؤقت في عالم التقنية كثيرًا ما يصبح دائمًا.