فرامل الطوارئ للذكاء الاصطناعي: ماذا تعني كلمة ناديلا لشركاتنا؟

توقفت هذا الصباح عند خبر نشره موقع TechCrunch. يقول الخبر إن ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، كتب في منشور صباح السبت أن الوقت قد حان «للتوقف وتقييم بنية الثقة» في الذكاء الاصطناعي. وعنوان الخبر يذهب أبعد من ذلك، فهو يقول إن نماذج الذكاء الاصطناعي تحتاج إلى «فرامل طوارئ».

لا أريد أن أحمّل الخبر أكثر مما فيه. ما لدينا جملة قصيرة وعنوان لافت، وليس لدي تفاصيل عما يقصده ناديلا بالضبط من الفرامل. لكن حتى هذا القدر يستحق أن نتأمله، لأن قائلها رجل يقود إحدى أكبر الشركات التي تبني الذكاء الاصطناعي وتبيعه للمؤسسات حول العالم.

لماذا يهمنا هذا في الخليج؟

في الإمارات ودول الخليج نتبنى الذكاء الاصطناعي بسرعة، في الحكومة والبنوك والعقارات والتجزئة والضيافة. كثير من الشركات التي أتعامل معها في Evorq Technology انتقلت من مرحلة «هل نجرّب؟» إلى «كيف نوسّع الاستخدام؟». وهنا تحديداً يصبح سؤال الثقة عملياً وليس فلسفياً.

عندما يكتب موظف مسودة عقد بمساعد ذكي، أو يربط الشركة وكيلاً آلياً ببريد العملاء، فنحن نمنح نظاماً ما صلاحية التأثير في قرارات وبيانات حقيقية. وإذا أخطأ هذا النظام أو سلك سلوكاً غير متوقع، فالسؤال الذي يطرحه كل مدير: هل أستطيع إيقافه فوراً؟

كيف أفهم فكرة «فرامل الطوارئ»

أقرؤها كمبدأ تصميم وليس كشعار. أي نظام مهم نبنيه يجب أن يكون له زر إيقاف واضح، ومسؤول يعرف متى يضغطه، وطريقة للعودة إلى العمل اليدوي دون أن تتوقف الشركة. هذا ما نفعله مع الكهرباء والمصاعد والأنظمة المالية منذ عقود، ولا أرى سبباً لأن يكون الذكاء الاصطناعي استثناءً.

ماذا أنصح به الآن؟

• اجرد استخداماتك: اعرف أي أدوات ذكاء اصطناعي يستخدمها فريقك فعلاً، بما فيها تلك التي دخلت دون علم قسم التقنية.
• صنّف بياناتك: حدّد ما يجوز إدخاله في هذه الأدوات وما يبقى خارجها، مثل بيانات العملاء والعقود والمعلومات المالية.
• أبقِ الإنسان في الحلقة: أي إجراء حساس، كالدفع أو الحذف أو مراسلة العميل، يمر بموافقة بشرية.
• جهّز خطة إيقاف: إن اعتمدت على وكيل آلي أو نموذج في عملية مهمة، فاكتب مسبقاً كيف تعطّله ومن يملك القرار وما البديل.
• اسأل مزوّدك: أين تُخزَّن بياناتك؟ هل تُستخدم في تدريب النماذج؟ وما سجلات النشاط المتاحة لك؟ وراجع الإجابات مع متطلبات حماية البيانات المعمول بها في بلدك.

الثقة تبدأ من الأساسيات

وأنا أكتب هذا، لفت نظري خبر آخر في موقع عالم التقنية: سامسونج أخرجت هاتف Galaxy A04s من قائمة الأجهزة المدعومة أمنياً وبرمجياً. يبدو الخبران بعيدين، لكنهما يشتركان في فكرة واحدة. فنحن نبني حياتنا وأعمالنا على أجهزة وأنظمة نفترض أنها آمنة، ثم ننسى أن الأمان له تاريخ انتهاء.

إن كان في شركتك هواتف قديمة خرجت من الدعم، فهي ثغرة مفتوحة قبل أن نصل إلى الحديث عن الذكاء الاصطناعي. وأنا أنصح بمراجعة الأجهزة المنتهية الدعم واستبدالها، أو على الأقل عدم استخدامها في الوصول إلى بريد العمل وتطبيقاته.

رأيي الصريح

أرحّب بأي مسؤول كبير يتحدث عن الضوابط في وقت يتسابق فيه الجميع على السرعة. لكنني أنتظر ما بعد الكلام: معايير واضحة، وأدوات إيقاف حقيقية، وشفافية تسمح للعميل أن يتحقق بنفسه. فالثقة لا تُعلن في منشور، بل تُبنى بالممارسة.

وأقول لأصحاب الأعمال عندنا: لا تنتظروا أحداً ليضع الفرامل نيابةً عنكم. استفيدوا من الذكاء الاصطناعي بجرأة، لكن ضعوا لكل استخدام مسؤولاً وحدوداً وخطة إيقاف. من يفعل ذلك اليوم سيكون أسرع غداً، لأنه لن يضطر إلى التوقف فجأة بعد خطأ مكلف.