مشاركة عبر

ما هو Azure الذكاء الاصطناعي Content Safety؟

  • مقالة

يكشف Azure الذكاء الاصطناعي Content Safety عن محتوى ضار تم إنشاؤه بواسطة المستخدم الذكاء الاصطناعي في التطبيقات والخدمات. يتضمن Azure الذكاء الاصطناعي Content Safety واجهات برمجة التطبيقات للنص والصور التي تسمح لك بالكشف عن المواد الضارة. لدينا أيضا Content Safety Studio تفاعلي يسمح لك بعرض نموذج التعليمات البرمجية واستكشافه وتجربته للكشف عن المحتوى الضار عبر طرائق مختلفة.

يمكن أن يساعد برنامج تصفية المحتوى تطبيقك على الامتثال للوائح أو الحفاظ على البيئة المقصودة للمستخدمين.

تحتوي هذه الوثائق على أنواع المقالات التالية:

مكان الاستخدام

فيما يلي بعض السيناريوهات التي قد يتطلب فيها مطور البرامج أو الفريق وجود خدمة الإشراف على المحتوى:

  • الأسواق الإلكترونية التي تشرف على كتالوجات المنتجات والمحتوى الآخر الذي ينشئه المستخدمون.
  • شركات الألعاب التي تشرف على القطع الأثرية للألعاب التي ينشئها المستخدمون وغرف الدردشة.
  • منصات المراسلة الاجتماعية التي تقوم باعتدال الصور والنصوص التي أضافها المستخدمون.
  • شركات وسائط المؤسسات التي تطبق الإشراف المركزي على محتواها.
  • K-12 يقوم موفرو حلول التعليم من رياض الأطفال وحتى التعليم الثانوي بتصفية المحتوى غير المناسب للطلاب والمعلمين.

هام

لا يمكنك استخدام Azure الذكاء الاصطناعي Content Safety للكشف عن صور استغلال الأطفال غير القانونية.

أنواع المنتجات

هناك أنواع مختلفة من التحليلات المتاحة من هذه الخدمة. يصف الجدول التالي واجهات برمجة التطبيقات المتوفرة حاليا.

نوع الدالات
دروع المطالبة (معاينة) يفحص النص بحثا عن خطر هجوم إدخال المستخدم على نموذج لغة كبيرة. التشغيل السريع
الكشف عن الأرضية (معاينة) يكتشف ما إذا كانت استجابات النص لنماذج اللغات الكبيرة (LLMs) مرسومة في المواد المصدر التي يوفرها المستخدمون. التشغيل السريع
الكشف عن نص المواد المحمية (معاينة) فحص النص الذي تم إنشاؤه الذكاء الاصطناعي بحثا عن محتوى نصي معروف (على سبيل المثال، كلمات الأغاني والمقالات والوصفات ومحتوى الويب المحدد). التشغيل السريع
الفئات المخصصة (سريعة) API (معاينة) يتيح لك تحديد أنماط المحتوى الضارة الناشئة ومسح النصوص والصور بحثا عن التطابقات. دليل إرشادي
تحليل واجهة برمجة تطبيقات النص يفحص النص بحثا عن المحتوى الجنسي والعنف والكراهية وإيذاء النفس بمستويات متعددة الخطورة.
تحليل واجهة برمجة تطبيقات الصور يفحص الصور بحثا عن المحتوى الجنسي والعنف والكراهية وإيذاء النفس بمستويات متعددة الخطورة.

Content Safety Studio

Azure الذكاء الاصطناعي Content Safety Studio هو أداة عبر الإنترنت مصممة للتعامل مع المحتوى الذي يحتمل أن يكون مسيئا أو محفوفا بالمخاطر أو غير مرغوب فيه باستخدام نماذج التعلم الآلي المتطورة وضع الخيمة ration. يوفر قوالب ومهام سير عمل مخصصة، ما يتيح للمستخدمين اختيار وبناء نظام con وضع الخيمة ration الخاص بهم. يمكن للمستخدمين تحميل المحتوى الخاص بهم أو تجربته باستخدام نموذج المحتوى المقدم.

لا يحتوي Content Safety Studio على نماذج الذكاء الاصطناعي الجاهزة فحسب، بل يتضمن أيضا قوائم حظر المصطلحات المضمنة من Microsoft لوضع علامة على الألفاظ النابية والبقاء على اطلاع على الاتجاهات الجديدة. يمكنك أيضا تحميل قوائم الحظر الخاصة بك لتحسين تغطية المحتوى الضار الخاص بحالة الاستخدام الخاصة بك.

يتيح لك Studio أيضا إعداد سير عمل الإشراف، حيث يمكنك مراقبة أداء con وضع الخيمة ration وتحسينه باستمرار. يمكن أن يساعدك على تلبية متطلبات المحتوى من جميع أنواع الصناعات مثل الألعاب والإعلام والتعليم والتجارة الإلكترونية والمزيد. يمكن للشركات توصيل خدماتها بسهولة إلى Studio وكونها وضع الخيمة في الوقت الفعلي، سواء تم إنشاؤها من قبل المستخدم أو الذكاء الاصطناعي تم إنشاؤها.

يتم التعامل مع جميع هذه القدرات من قبل Studio والواجهة الخلفية الخاصة به؛ لا يحتاج العملاء إلى القلق بشأن تطوير النموذج. يمكنك إلحاق بياناتك للتحقق السريع من صحة مؤشرات الأداء الرئيسية ومراقبتها وفقا لذلك، مثل المقاييس التقنية (زمن الانتقال أو الدقة أو الاستدعاء) أو مقاييس الأعمال (معدل الكتلة وحجم الكتلة ونسب الفئة ونسب اللغة والمزيد). باستخدام العمليات والتكوينات البسيطة، يمكن للعملاء اختبار حلول مختلفة بسرعة والعثور على الأنسب، بدلا من قضاء الوقت في تجربة النماذج المخصصة أو القيام بالاعتدال يدويا.

Content Safety Studio

ميزات Content Safety Studio

في Content Safety Studio، تتوفر ميزات خدمة Azure الذكاء الاصطناعي Content Safety التالية:

  • محتوى نص معتدل: باستخدام أداة الإشراف على النص، يمكنك بسهولة تشغيل الاختبارات على محتوى النص. سواء كنت ترغب في اختبار جملة واحدة أو مجموعة بيانات كاملة، توفر أداتنا واجهة سهلة الاستخدام تتيح لك تقييم نتائج الاختبار مباشرة في المدخل. يمكنك تجربة مستويات حساسية مختلفة لتكوين عوامل تصفية المحتوى وإدارة قائمة الحظر، مما يضمن أن المحتوى الخاص بك يتم الإشراف عليه دائما وفقا للمواصفات الدقيقة الخاصة بك. بالإضافة إلى ذلك، مع القدرة على تصدير التعليمات البرمجية، يمكنك تنفيذ الأداة مباشرة في التطبيق الخاص بك، وتبسيط سير العمل وتوفير الوقت.

  • محتوى الصور المعتدل: باستخدام أداة الإشراف على الصور، يمكنك بسهولة تشغيل الاختبارات على الصور للتأكد من أنها تفي بمعايير المحتوى الخاصة بك. تتيح لك واجهتنا سهلة الاستخدام تقييم نتائج الاختبار مباشرة في المدخل، ويمكنك تجربة مستويات حساسية مختلفة لتكوين عوامل تصفية المحتوى. بمجرد تخصيص الإعدادات الخاصة بك، يمكنك بسهولة تصدير التعليمات البرمجية لتنفيذ الأداة في التطبيق الخاص بك.

  • مراقبة النشاط عبر الإنترنت: تتيح لك صفحة المراقبة القوية تتبع استخدام واجهة برمجة تطبيقات الإشراف والاتجاهات بسهولة عبر طرائق مختلفة. باستخدام هذه الميزة، يمكنك الوصول إلى معلومات الاستجابة التفصيلية، بما في ذلك توزيع الفئة والخطورة وزمن الانتقال والخطأ والكشف عن قائمة الحظر. توفر لك هذه المعلومات نظرة عامة كاملة على أداء con وضع الخيمة ration، مما يتيح لك تحسين سير العمل والتأكد من أن المحتوى الخاص بك يتم الإشراف عليه دائما وفقا للمواصفات الدقيقة الخاصة بك. باستخدام واجهة سهلة الاستخدام، يمكنك التنقل بسرعة وسهولة في صفحة المراقبة للوصول إلى المعلومات التي تحتاجها لاتخاذ قرارات مستنيرة حول استراتيجية الاختراق وضع الخيمة. لديك الأدوات التي تحتاجها للبقاء على اطلاع على أداء con وضع الخيمة ration الخاص بك وتحقيق أهداف المحتوى الخاص بك.

الأمان

استخدام معرف Microsoft Entra أو الهوية المدارة لإدارة الوصول

لتحسين الأمان، يمكنك استخدام معرف Microsoft Entra أو الهوية المدارة (MI) لإدارة الوصول إلى مواردك.

  • يتم تمكين الهوية المدارة تلقائيا عند إنشاء مورد أمان المحتوى.
  • معرف Microsoft Entra مدعوم في كل من سيناريوهات API وSDK. راجع إرشادات خدمات الذكاء الاصطناعي العامة للمصادقة باستخدام معرف Microsoft Entra. يمكنك أيضا منح حق الوصول إلى مستخدمين آخرين داخل مؤسستك عن طريق تعيين أدوار مستخدمي الخدمات المعرفية والقارئ لهم. لمعرفة المزيد حول منح المستخدم حق الوصول إلى موارد Azure باستخدام مدخل Microsoft Azure، راجع دليل التحكم في الوصول المستند إلى الدور.

تشفير البيانات الثابتة

تعرف على كيفية تعامل Azure الذكاء الاصطناعي Content Safety مع تشفير بياناتك وفك تشفيرها. توفر المفاتيح التي يديرها العميل (CMK)، والمعروفة أيضا باسم إحضار المفتاح الخاص بك (BYOK)، مرونة أكبر لإنشاء عناصر التحكم في الوصول وتدويرها وتعطيلها وإبطالها. يمكنك أيضاً تدقيق مفاتيح التشفير المستخدمة لحماية بياناتك.

التسعير

حاليا، يحتوي Azure الذكاء الاصطناعي Content Safety على مستوى تسعير F0 وS0 . راجع صفحة تسعير Azure لمزيد من المعلومات.

حدود الخدمة

متطلبات الإدخال

راجع القائمة التالية لمعرفة متطلبات الإدخال لكل ميزة.

  • تحليل واجهة برمجة تطبيقات النص:
    • الحد الأقصى الافتراضي للطول: 10 آلاف حرف (تقسيم النصوص الأطول حسب الحاجة).
  • تحليل واجهة برمجة تطبيقات الصور:
    • الحد الأقصى لحجم ملف الصورة: 4 ميغابايت
    • الأبعاد بين 50 × 50 و2048 × 2048 بكسل.
    • يمكن أن تكون الصور بتنسيقات JPEG أو PNG أو GIF أو BMP أو TIFF أو WEBP.
  • دروع المطالبة (معاينة):
    • الحد الأقصى لطول المطالبة: 10 آلاف حرف.
    • ما يصل إلى خمسة مستندات بإجمالي 10 أحرف.
  • الكشف عن الأرضية (معاينة):
    • الحد الأقصى لطول مصادر الترسيخ: 55000 حرف (لكل استدعاء API).
    • الحد الأقصى لطول النص والاستعلام: 7500 حرف.
  • الكشف عن المواد المحمية (معاينة):
    • الحد الأقصى الافتراضي للطول: 1K حرف.
    • الحد الأدنى للطول: 111 حرفا (لفحص إكمال LLM، وليس مطالبات المستخدم).

الدعم اللغوي

تم تدريب نماذج أمان المحتوى واختبارها على وجه التحديد باللغات التالية: الإنجليزية والألمانية واليابانية والإسبانية والفرنسية والإيطالية والبرتغالية والصينية. ومع ذلك، يمكن أن تعمل الخدمة بالعديد من اللغات الأخرى، ولكن قد تختلف الجودة. في جميع الحالات، يجب عليك إجراء الاختبار الخاص بك للتأكد من أنه يعمل مع التطبيق الخاص بك.

لمزيد من المعلومات، راجع دعم اللغة.

توافر المناطق

لاستخدام واجهات برمجة تطبيقات أمان المحتوى، يجب إنشاء مورد Azure الذكاء الاصطناعي Content Safety في المناطق المدعومة. حاليا، تتوفر ميزات "أمان المحتوى" في مناطق Azure التالية:

المنطقة واجهات برمجة تطبيقات الإشراف دروع المطالبة
(إصدار أولي)		 مواد محمية
الكشف (معاينة)		 الترضية
الكشف (معاينة)		 الفئات المخصصة
(سريع) (معاينة)		 قوائم الحظر
شرق الولايات المتحدة ✅ ✅ ✅ ✅ ✅ ✅
East US 2 ✅ ✅ ✅
غرب الولايات المتحدة ✅
West US 2 ✅ ✅
Central US ✅ ✅
وسط شمال الولايات المتحدة ✅ ✅
South Central US ✅ ✅
شرق كندا ✅ ✅
شمال سويسرا ✅ ✅
منطقة السويد الوسطى ✅ ✅ ✅ ✅
جنوب المملكة المتحدة ✅ ✅
وسط فرنسا ✅ ✅
أوروبا الغربية ✅ ✅ ✅ ✅
شرق اليابان ✅ ✅
شرق أستراليا ✅ ✅ ✅

لا تتردد في الاتصال بنا إذا كنت بحاجة إلى مناطق أخرى لعملك.

معدلات الاستعلام

تحتوي ميزات "أمان المحتوى" على حدود لمعدل الاستعلام في الطلبات لكل 10 ثوان. راجع الجدول التالي لمعرفة حدود المعدل لكل ميزة.

مستوى الأسعار واجهات برمجة تطبيقات الإشراف دروع المطالبة
(إصدار أولي)		 مواد محمية
الكشف (معاينة)		 الترضية
الكشف (معاينة)		 الفئات المخصصة
(سريع) (معاينة)
F0 1000 1000 1000 50 1000
S0 1000 1000 1000 50 1000

إذا كنت بحاجة إلى معدل أسرع، فيرجى الاتصال بنا لطلب ذلك.

الاتصال بنا

إذا واجهتك مشكلة، فراسلنا عبر البريد الإلكتروني أو استخدم عنصر واجهة مستخدم الملاحظات في أسفل أي صفحة Microsoft Learn.

الخطوات التالية

اتبع التشغيل السريع لبدء استخدام Azure الذكاء الاصطناعي Content Safety في التطبيق الخاص بك.

التشغيل السريع ل "أمان المحتوى"