حوكمة تبنّي الذكاء الاصطناعي: الضوابط الواجب وضعها قبل تشغيل أول نموذج

للتطبيق التقليدي قاعدة شيفرة، وبصمة في البنية التحتية، ومجموعة مستخدمين. أما نظام الذكاء الاصطناعي فيضيف أكثر: النموذج نفسه، والبيانات المستخدمة في تدريبه أو تأسيسه، والمطالبات والمخرجات التي تمر عبره، والتكاملات التي تتيح له القراءة من أنظمة أخرى والتصرف فيها، وفي حالة الوكلاء الإجراءات التي يمكنه اتخاذها بنفسه.

كل من هذه أصل أو مسار يجب أن يحسب الأمن حسابه. فالبيانات التي يستطيع المساعد استرجاعها، وواجهات API التي يستطيع الوكيل استدعاءها، وحمل التشغيل السحابي الذي يعمل عليه النموذج، كلها ضمن النطاق. ومعاملة النموذج كمجرد تطبيق آخر تُغفل معظمها.

الضابط الأول تنظيمي. قرر من يملك أمن أنظمة الذكاء الاصطناعي: المتطلبات التي يجب أن تستوفيها، والمراجعة قبل التشغيل، والمراقبة بعده. فمن دون مالك، تصل تطبيقات الذكاء الاصطناعي ووكلاؤه إلى الإنتاج ولا يملك أحد أمنها.

لا يتعين على المالك أن يبني كل شيء، بل أن يضمن طرح الأسئلة الواردة في هذه المقالة لكل نظام ذكاء اصطناعي وتوثيق الإجابات. والأمن السيبراني طبقة ثقة عبر الرحلة كلها، فمتطلبات الأمن مكانها في بنية البيانات وحوكمتها وفي تصميم الذكاء الاصطناعي ونشره، لا في التشغيل وحده.

نظام الذكاء الاصطناعي طريق جديد إلى البيانات. فالمساعد المؤسس على مستندات المؤسسة يستطيع إظهار أي شيء يُسمح له باسترجاعه، بما فيه مواد لم تكن محمية إلا بصعوبة العثور عليها. والضابط هنا أن تعرف، قبل التشغيل، أي بيانات يستطيع النظام الوصول إليها وهل يتوافق ذلك مع غرضه ومع تصنيف البيانات.

يأتي تصنيف البيانات وملكيتها من حوكمة البيانات، وتنفّذهما ضوابط أمن البيانات ومنع فقدانها عبر دورة حياة البيانات. ويتحقق تقييم أمن البيانات والذكاء الاصطناعي من توافق الجانبين للأنظمة المقبلة على التشغيل.

من يجوز له استخدام نظام الذكاء الاصطناعي، وما الذي يجوز للنظام فعله باسمه؟ في حالة المساعدين، تتعلق الإجابة بالمستخدمين والأدوار. وفي حالة الوكلاء، تتعلق أيضًا بهوية الوكيل نفسه: الصلاحيات التي يحملها في الأنظمة التي يتصرف فيها، وهل هذه الصلاحيات هي الحد الأدنى الذي تتطلبه مهمته.

تنطبق إدارة الهوية والوصول، والوصول المميز، ومبادئ Zero Trust على الوكلاء كما تنطبق على الأشخاص. والوكيل الذي يملك وصولًا دائمًا واسعًا هو حساب مميز، وينبغي إدارته على هذا الأساس.

يعمل النموذج داخل تطبيق، ويعرض واجهات API أو يستهلكها، ويقيم على بنية تحتية سحابية أو هجينة. وتحتاج كل طبقة إلى الحماية التي تحصل عليها عادةً: أمن التطبيقات وواجهات API للواجهات، وأمن السحابة وأحمال التشغيل لموضع عمل النموذج، وضوابط خاصة بالذكاء الاصطناعي للنموذج ووصوله إلى البيانات، مثل حدود ما يمكن لمطالبة أن تجعل النظام يفعله.

تُختار هذه الضوابط لبيئتك وتُحفظ فاعليتها بعد وضعها. فأدوات الأمن غير المنشورة أو غير المضبوطة بالكامل لا تحمي حمل تشغيل الذكاء الاصطناعي أفضل مما تحمي أي شيء آخر.

بعد التشغيل، يجب أن يكون نظام الذكاء الاصطناعي مرئيًا. فطلباته ومخرجاته والبيانات التي لمسها والإجراءات التي اتخذها ينبغي أن تصل إلى المراقبة نفسها التي تستخدمها بقية البيئة، كي يمكن اكتشاف السلوك غير المعتاد والاستجابة له.

يعني ذلك إدماج نشاط الذكاء الاصطناعي في المراقبة الأمنية والتحليلات، وإدراج نظام الذكاء الاصطناعي في إدارة التعرض والثغرات، وتغطيته في خطط الجاهزية للحوادث. فالنموذج الذي يسيء التصرف حادث أمني، وينبغي أن تعرف المؤسسة كيف ستستجيب له قبل وقوعه.

قبل أن يصل أول نظام ذكاء اصطناعي إلى الإنتاج، ينبغي توفير ما يلي:

• مالك مسمّى لأمن الذكاء الاصطناعي وخطوة مراجعة قبل التشغيل.
• جرد للبيانات التي يستطيع النظام الوصول إليها، مُدقق مقابل تصنيفها وغرضها.
• هويات ووصول بالحد الأدنى من الصلاحيات للمستخدمين وللوكيل نفسه.
• حماية التطبيقات وواجهات API وأحمال التشغيل حول النموذج، إضافة إلى ضوابط خاصة بالذكاء الاصطناعي.
• نشاط الذكاء الاصطناعي ضمن المراقبة الأمنية وإدارة التعرض والجاهزية للحوادث.

وضع هذه الضوابط منذ مرحلة التصميم، لا بعد اكتمال التطوير، يجنّب تركيبها لاحقًا تحت الضغط بعد تشغيل النظام. ويتيح للمؤسسة أيضًا تبنّي الذكاء الاصطناعي بالثقة نفسها التي تتوقعها من أي نظام إنتاجي آخر.