مقدمة
ضوابط الأمان بالذكاء الاصطناعي هي الإجراءات والبروتوكولات التي تطبق لحماية أنظمة الذكاء الاصطناعي من التهديدات والثغرات والوصول غير المصرح به. بينما لا تزال ضوابط الأمان التقليدية (مثل أمن الشبكة، إدارة الوصول، والتشفير) سارية، إلا أن أنظمة الذكاء الاصطناعي تتطلب ضوابط إضافية متخصصة تعالج المخاطر الفريدة التي تسببها واجهات اللغة الطبيعية، وسلوك النماذج، وقدرات الوكيل.
توفر هذه الوحدة نظرة عامة على ضوابط الأمان التي يمكنك تنفيذها في أنظمة الذكاء الاصطناعي لتعزيز وضع الأمان في بيئات الذكاء الاصطناعي. تستكشف الضوابط عبر عدة مجالات: أمان سلسلة التوريد لمكتبات الذكاء الاصطناعي، تصفية المحتوى، أمن البيانات، تصميم موجه النظام، التأريض، أفضل ممارسات أمن التطبيقات، والمراقبة المستمرة.
الأهداف التعليمية
في نهاية هذه الوحدة، تتمكن من:
- تقييم مكتبات الذكاء الاصطناعي مفتوحة المصدر من حيث المخاطر الأمنية
- صف قدرات تصفية المحتوى وكيفية تكوينها بفعالية
- شرح مبادئ أمن البيانات في الذكاء الاصطناعي، بما في ذلك هوية الوكيل والتحكم في الوصول
- صمم مروحات النظام الفعالة (مروحات النظام) كأداة تحكم أمني
- صف كيف يقلل التأريض من المحتوى غير الدقيق الذي يولده الذكاء الاصطناعي ومخاطر الأمان
- تطبيق أفضل ممارسات أمن التطبيقات على التطبيقات المدعومة بالذكاء الاصطناعي
- وصف استراتيجيات المراقبة لاكتشاف التهديدات الخاصة بالذكاء الاصطناعي
المتطلبات الأساسية
- الإلمام بالمفاهيم الأمنية الأساسية (مثل المصادقة، التحكم في الوصول، التشفير)
- الإلمام بمفاهيم الذكاء الاصطناعي الأساسية (مثل النماذج، التدريب، الاستنتاج)
- إكمال وحدة أساسيات أمن الذكاء الاصطناعي أو ما يعادلها