وكلاء الذكاء الاصطناعي وكلمات المرور: المسؤولية تبقى عليك

قرأت هذا الأسبوع ثلاثة أخبار تبدو منفصلة، لكنها في رأيي تحكي قصة واحدة: وكلاء الذكاء الاصطناعي لم يعودوا مجرد أدوات للدردشة، بل أصبحوا ينفذون مهام حقيقية بصلاحيات حقيقية، وهذا يغيّر معنى المسؤولية والأمان.

ماذا حدث؟

الخبر الأول من TechCrunch، وفيه يطلب Bank of America من عملائه بلطف ألا يشاركوا كلمة مرور حساباتهم المصرفية مع مساعدهم الذكي. والعبارة التي استوقفتني أن العميل «مسؤول عن النشاط» الناتج عن وصول وكلائه إلى الحساب. أي أن البنك يقول بوضوح: إذا أعطيت الوكيل مفاتيحك، فما يفعله بها يُحسب عليك.

الخبر الثاني من The Hacker News. باحثون كشفوا تفاصيل ثلاث هجمات إلكترونية استهدفت جهات في اليابان، وكان الذكاء الاصطناعي فيها عنصرًا أساسيًا، إما في مقعد القيادة أو مساعدًا لمشغّل بشري. وقد حللت شركة TrendAI ثلاث بيئات خوادم مكشوفة استخدمها المهاجمون، وعنوان الخبر يتحدث عن أداة تسمى CyberStrikeAI تستخدم 44 وكيلًا لأتمتة عمليات الاختراق.

الخبر الثالث من عالم التقنية، ومفاده أن شركة Anthropic أعلنت ضمن مستندات طرحها العام الأولي عن خروقات أمنية وقعت خلال اختبارات على نماذجها المتقدمة، وعن إيقاف مؤقت لتدريب نموذج جديد لأكثر من شهر بسبب مخاوف تتعلق بالحماية. وذكر الخبر أن أربعة نماذج كانت جزءًا من تجارب أمنية أُجريت بالتعاون مع طرف آخر.

لماذا يهمنا في الخليج؟

نحن من أسرع المجتمعات تبنيًا للخدمات الرقمية: تطبيقات البنوك، والهوية الرقمية، والخدمات الحكومية على الهاتف. ومن الطبيعي أن يرغب الناس والشركات في تفويض مساعد ذكي ليدفع الفواتير أو يرتب الحجوزات أو يتابع الحسابات. الإغراء كبير، لكن الخبر الأول يذكّرنا بأن الراحة لا تنقل المسؤولية إلى أحد.

وللشركات الصغيرة والمتوسطة التي أتعامل معها في Evorq Technology، القلق مضاعف. فإذا كان المهاجمون يستخدمون الأتمتة الذكية لتسريع عملياتهم، فإن الفجوة بين مهاجم مؤتمت ومدافع يعتمد على الجهد اليدوي ستتسع. وحين تعترف شركة بحجم Anthropic علنًا بثغرات ظهرت أثناء اختباراتها، فهذا دليل على أن هذه الأنظمة ما زالت تُختبر وتُفهم، وأننا لا ينبغي أن نعاملها كصندوق موثوق مغلق.

ماذا أنصح أن تفعل؟

• لا تعطِ أي مساعد ذكي كلمة مرور حسابك المصرفي أو بريدك الأساسي. إن احتجت إلى تكامل، فاستخدم الطرق الرسمية التي تمنح صلاحيات محدودة وقابلة للإلغاء.
• طبّق مبدأ أقل صلاحية: الوكيل الذي يقرأ جدول مواعيد لا يحتاج إلى صلاحية التحويل المالي.
• فعّل التحقق بخطوتين في كل حساب مهم، ولا تجعل الوكيل يتجاوزه.
• راجع سجل النشاط في حساباتك بانتظام، فأنت من سيُسأل عمّا جرى.
• ضع سياسة مكتوبة في شركتك توضح ما يجوز للموظفين إدخاله في أدوات الذكاء الاصطناعي، وما لا يجوز أبدًا: كلمات المرور، وبيانات العملاء، والمستندات السرية.
• حدّث أنظمتك وراقب الخوادم المكشوفة. فالخبر الياباني بُني على تحليل خوادم المهاجمين المكشوفة، وخوادمك المكشوفة بالخطأ قد تكون الهدف القادم.

رأيي الصريح

أنا متحمس لوكلاء الذكاء الاصطناعي، وأستخدمهم في عملي. لكني أرى أن الحماس الحالي يسبق الانضباط. تحذير البنك صريح ومنطقي، ومن الجيد أن تقوله مؤسسة مالية كبرى علنًا بدل أن يكتشفه العميل بعد وقوع الضرر. وفي الوقت نفسه لا أعتقد أن الحل هو الخوف أو الامتناع عن التقنية، بل أن نعاملها كما نعامل موظفًا جديدًا: نمنحه صلاحيات محدودة، ونراقب عمله، ولا نسلّمه مفاتيح الخزنة في أسبوعه الأول.

أما شفافية Anthropic عن إيقاف التدريب والخروقات التي ظهرت في الاختبارات، فأراها خطوة إيجابية من حيث الصراحة، لكنها أيضًا جرس تنبيه: إذا كان المطورون أنفسهم يوقفون العمل بسبب مخاوف الحماية، فعلى المستخدم العادي أن يتحلى بقدر أكبر من الحذر.

الخلاصة: الذكاء الاصطناعي سيعمل لصالحنا وسيُستخدم ضدنا بالقدر نفسه من الكفاءة. والفارق سيصنعه من يضع الضوابط أولًا. ابدأ اليوم بمراجعة الصلاحيات التي منحتها لأي تطبيق أو مساعد ذكي، وألغِ ما لا تحتاجه.