مشاركة عبر

ما هو Azure Content Moderator؟

هام

تم إهمال Azure Content Moderator اعتبارا من فبراير 2024 وسيتم إيقافه في 15 مارس 2027. يتم استبداله ب Azure الذكاء الاصطناعي Content Safety، والذي يوفر ميزات الذكاء الاصطناعي متقدمة وأداء محسنا.

Azure الذكاء الاصطناعي Content Safety هو حل شامل مصمم للكشف عن المحتوى الضار الذي ينشئه المستخدم وينشأ الذكاء الاصطناعي في التطبيقات والخدمات. يعد Azure الذكاء الاصطناعي Content Safety مناسبا للعديد من السيناريوهات مثل الأسواق عبر الإنترنت وشركات الألعاب ومنصات المراسلة الاجتماعية وشركات وسائط المؤسسات وموفري حلول التعليم K-12. فيما يلي نظرة عامة على ميزاته وقدراته:

  • واجهات برمجة التطبيقات للكشف عن النصوص والصور: فحص النصوص والصور بحثا عن المحتوى الجنسي والعنف والكراهية وإيذاء الذات مع مستويات خطورة متعددة.
  • Content Safety Studio: أداة عبر الإنترنت مصممة للتعامل مع المحتوى الذي يحتمل أن يكون مسيئا أو محفوفا بالمخاطر أو غير مرغوب فيه باستخدام أحدث نماذج التعلم الآلي لاعتدال المحتوى. يوفر قوالب ومهام سير عمل مخصصة تمكن المستخدمين من إنشاء أنظمة الإشراف على المحتوى الخاصة بهم.
  • دعم اللغة: يدعم Azure الذكاء الاصطناعي Content Safety أكثر من 100 لغة ويتم تدريبه خصيصا على اللغة الإنجليزية والألمانية واليابانية والإسبانية والفرنسية والإيطالية والبرتغالية والصينية.

يوفر Azure الذكاء الاصطناعي Content Safety حلا قويا ومرنا لاحتياجات الإشراف على المحتوى. من خلال التبديل من Content Moderator إلى Azure الذكاء الاصطناعي Content Safety، يمكنك الاستفادة من أحدث الأدوات والتقنيات للتأكد من أن المحتوى الخاص بك يتم الإشراف عليه دائما إلى المواصفات الدقيقة.

تعرف على المزيد حول Azure الذكاء الاصطناعي Content Safety واستكشف كيف يمكن رفع مستوى استراتيجية الإشراف على المحتوى.

Azure Content Moderator هي خدمة الذكاء الاصطناعي تتيح لك التعامل مع المحتوى الذي يحتمل أن يكون مهينا أو محفوفا بالمخاطر أو غير مرغوب فيه. وهي تتضمن خدمة الإشراف على المحتوى التي تعمل الذكاء الاصطناعي والتي تقوم بمسح النص والصور ومقاطع الفيديو وتطبيق علامات المحتوى تلقائيا.

قد ترغب في إنشاء برنامج تصفية المحتوى في تطبيقك للامتثال للوائح أو الحفاظ على البيئة المقصودة للمستخدمين.

تحتوي هذه الوثائق على أنواع المقالات التالية:

  • قوالب التشغيل السريع هي إرشادات البدء لإرشادك من خلال تقديم طلبات إلى الخدمة.
  • تحتوي الأدلة الإرشادية على إرشادات لاستخدام الخدمة بطرق أكثر تحديدا أو تخصيصا.
  • توفر المفاهيم التفسيرات المتعمقة لوظائف الخدمة وميزاتها.

للحصول على نهج أكثر تنظيما، اتبع وحدة تدريب ل Content Moderator.

حيث يتم استخدامه

فيما يلي بعض السيناريوهات التي يتطلب فيها مطور البرامج أو الفريق خدمة الإشراف على المحتوى:

  • الأسواق الإلكترونية التي تشرف على كتالوجات المنتجات والمحتوى الآخر الذي ينشئه المستخدمون.
  • شركات الألعاب التي تشرف على القطع الأثرية للألعاب التي ينشئها المستخدمون وغرف الدردشة.
  • النظم الأساسية الاجتماعية للدردشة التي تشرف على الصور والنصوص والفيديو التي يضيفها مستخدموها.
  • شركات وسائط المؤسسة التي تنفذ الإشراف المركزي لمحتوياتها.
  • يقوم موفرو حلول التعليم K-12 بتصفية المحتوى غير المناسب للطلاب والمعلمين.

هام

لا يمكنك استخدام Content Moderator للكشف عن صور استغلال الأطفال غير القانونية. ومع ذلك، يمكن للمؤسسات المؤهلة استخدام PhotoDNA Cloud Service لعرض هذا النوع من المحتوى.

ما يتضمنه

تتكون خدمة Content Moderator من العديد من واجهات برمجة التطبيقات لخدمة الويب المتوفرة من خلال كل من استدعاءات REST و.NET SDK.

واجهات برمجة تطبيقات الإشراف

تتضمن خدمة Content Moderator واجهات برمجة تطبيقات الإشراف، والتي تتحقق من المحتوى بحثا عن مواد قد تكون غير مناسبة أو غير مقبولة.

رسم تخطيطي للكتل لواجهات برمجة تطبيقات الإشراف على Content Moderator

يصف الجدول التالي الأنواع المختلفة من واجهات برمجة التطبيقات الإشرافية.

مجموعة واجهة برمجة التطبيقات وصف
الإشراف على النص يفحص النص بحثا عن المحتوى المسيء والمحتوى الجنسي الصريح أو المقترح والألفاظ النابية والبيانات الشخصية.
قوائم المصطلحات المخصصة مسح النص ضوئيا مقابل قائمة مخصصة من المصطلحات مع المصطلحات المضمنة. استخدم القوائم المخصصة لحظر المحتوى أو السماح به وفقا لسياسات المحتوى الخاصة بك.
الإشراف على الصور يفحص الصور بحثا عن محتوى البالغين أو المحتوى الشنيعة، ويكتشف النص في الصور باستخدام إمكانية التعرف البصري على الحروف (OCR)، ويكتشف الوجوه.
قوائم الصور المخصصة مسح الصور ضوئيا مقابل قائمة مخصصة من الصور. استخدم قوائم الصور المخصصة لتصفية مثيلات المحتوى المتكرر الشائع الذي لا تريد تصنيفه مرة أخرى.
الإشراف على الفيديو يفحص مقاطع الفيديو بحثا عن محتوى البالغين أو المحتوى الهزيل ويعيد علامات الوقت للمحتوى المذكور.

خصوصية البيانات وأمنها

كما هو الحال مع جميع خدمات Azure الذكاء الاصطناعي، يجب أن يكون المطورون الذين يستخدمون خدمة Content Moderator على دراية بسياسات Microsoft بشأن بيانات العملاء. راجع صفحة خدمات Azure الذكاء الاصطناعي في مركز توثيق Microsoft لمعرفة المزيد.

الخطوات التالية