لماذا أصبح تأمين وكلاء الذكاء الاصطناعي مشكلة جديدة؟

رسم بياني يوضح عملاء يتصرفون بسرعة الآلة، مع نقاط تفتيش مؤمنة داخل محيط متقطع ومسارات غير مسيطرة خلفها.

لطالما بني أمان المؤسسات حول طرفين: الأشخاص والتطبيقات. يمارس الشخص الحكم لكنه يعمل خطوة بخطوة، ويمكن أن يطلب منه التأكيد قبل اتخاذ إجراء؛ التطبيق لا يملك حكما ويقوم فقط بما تم تكوينه للقيام به. العامل ليس أيًّا منهما. يفكر ويختار أدواته الخاصة كإنسان، لكنه يتصرف بمفعله وبسرعة الآلة مثل البرمجيات، ويمكن أن يتحول ضد مهمته من خلال محتوى يزرع المهاجم في طريقه. تأمين شيء يختار حركته التالية بنفسه، بهذا الوتيرة، ليس تغييرا عما كان سابقا.

يجيب Microsoft Agent 365 على أنه من خلال توسيع نموذج الأمان الذي تعمل به المؤسسة بالفعل لتغطية الوكلاء. يمنح كل وكيل هويته الخاصة في Microsoft Entra، ونفس الخدمات التي تحمي الأشخاص والتطبيقات تحكمه وتراقبه وتدافع عنه. تلك الهوية هي ما ترتبط به السياسة، وما يتتبعه التحقيق، وما ينطبق عليه القيد.

مخاطر مألوفة، سرعة غير مألوفة

التهديدات نفسها ليست جديدة. الوصول غير المصرح به، التصاريح المفرطة، تسرب البيانات، الهويات المخترقة، والسلوك المشبوه هي مشكلات تعاملت معها فرق الأمن لسنوات. ما يميز ذلك هو أن التدابير الأمنية لديهم تفترض إيقاعا بشريا: نقطة تفتيش، مراجعة، لحظة يلاحظها أحدهم. يقوم الوكيل بتشغيل سلسلة من الإجراءات عبر كل نظام يمكنه الوصول إليه، دون وجود توقف مؤقت مدمج. قد يتكشف خطر مألوف بالكامل خلال الوقت الذي كانت ستستغرقه وسائل الحماية تلك لاكتشافه.

أسطح الهجوم الجديدة

وبما أن الوكيل يعالج التعليمات ويتصرف بناءً عليها، فإنه يخلق نقاط تعرّض لم تكن موجودة في التطبيق الثابت من قبل. حقن الأوامر هو أوضح مثال: المحتوى الخصمي المخفي فِي مستند أو بريد إلكتروني أو صفحة ويب يمكن للعامل معالجته أن يختطف ما يفعله بعد ذلك، مما يحول مساعدا مفيدا إلى أداة للمهاجم. الإفراط في الوكالة هو أمر آخر: الوكيل الذي يمنح سلطة أكثر من حاجته يمكنه اتخاذ إجراءات تتجاوز ذلك بكثير. هذه المخاطر خاصة بالذكاء الاصطناعي، والضرر أكبر، لأن وكيلا واحدا تم التلاعب به بوصول واسع يمكنه لمس العديد من الأنظمة قبل أن يلاحظ أحد.

حيث تعطلت أدوات التحكم القديمة

حتى عناصر التحكم المناسبة تصبح قديمة. تتغير صلاحيات الوكيل مع توسع حالات الاستخدام وتطور سلوكه، لذا فإن مراجعة أظهرت أنه كان آمنا في الربع الماضي لا تقول الكثير عن اليوم. المواكبة تعني معاملة كل وكيل كفاعل بحد ذاته، له هوية وسلوك مرئي وحدود قابلة للتطبيق، بدلا من أن يكون أتمتة غير مرئية تعمل خارج مركز عمليات الأمن.

حيث يجب أن يتم تطبيق القانون

الكشف في الوقت الحقيقي نفسه ليس أمرا جديدا؛ أدوات الأمان تراقب المستخدمين والتطبيقات أثناء عملها. ما يختلف هو ما يجب مراقبته، ومتى. بالنسبة للشخص أو التطبيق، اللحظات الكاشفة مألوفة: تسجيل الدخول، التحميل، تغيير في الإعدادات. بالنسبة إلى الوكيل، تقع اللحظة المناظرة بين المدخلات التي يعالجها واستدعاء الأداة الذي يليها، من دون أن تفصل بينهما أي خطوة بشرية. يجب على الضوابط تقييم المحتوى الذي يستقبله الوكيل، والأدوات التي يستدعيها، والبيانات التي يصل إليها، وتطبيقها في نقطة المكالمة وليس بعدها. هذا الشرط هو ما بني عليه العميل 365: لأن كل عميل يحمل هويته الخاصة، فإن حدوده تسافر معه حتى لحظة تصرفه.

مراقبة العملاء عن كثب لا تحل المشكلة. تقوم المؤسسة بحل المشكلة بجعل كل وكيل هوية يمكنها الحكم، بحيث تنمو القدرة والسيطرة معا بدلا من التجارة ضد بعضهما البعض. يجعل Agent 365 هذه الهوية وحدة الحوكمة، وهي ما يحول مجموعة من الوكلاء بسرعة إلى شيء يمكن للمنظمة الالتزام به وفقا لمعيار.