مشاركة عبر

ما هو Azure Content Moderator؟

  • مقالة

هام

تم إهمال Azure Content Moderator اعتبارا من فبراير 2024 وسيتم إيقافه بحلول فبراير 2027. يتم استبداله ب Azure الذكاء الاصطناعي Content خزينة ty، والذي يوفر ميزات الذكاء الاصطناعي متقدمة وأداء محسنا.

Azure الذكاء الاصطناعي Content خزينة ty هو حل شامل مصمم للكشف عن المحتوى الضار الذي ينشئه المستخدم وينشأ الذكاء الاصطناعي في التطبيقات والخدمات. يعد Azure الذكاء الاصطناعي Content خزينة ty مناسبا للعديد من السيناريوهات مثل الأسواق عبر الإنترنت وشركات الألعاب ومنصات المراسلة الاجتماعية وشركات وسائط المؤسسات وموفري حلول التعليم K-12. فيما يلي نظرة عامة على ميزاته وقدراته:

  • واجهات برمجة التطبيقات للكشف عن النصوص والصور: فحص النصوص والصور بحثا عن المحتوى الجنسي والعنف والكراهية وإيذاء الذات مع مستويات خطورة متعددة.
  • المحتوى خزينة استوديو: أداة عبر الإنترنت مصممة للتعامل مع المحتوى الذي يحتمل أن يكون مسيئا أو محفوفا بالمخاطر أو غير مرغوب فيه باستخدام أحدث نماذج التعلم الآلي الخاصة بنا وضع الخيمة ration. يوفر قوالب ومهام سير عمل مخصصة تمكن المستخدمين من إنشاء أنظمة con وضع الخيمة ration الخاصة بهم.
  • دعم اللغة: يدعم Azure الذكاء الاصطناعي Content خزينة ty أكثر من 100 لغة ويتم تدريبه بشكل خاص على اللغة الإنجليزية والألمانية واليابانية والإسبانية والفرنسية والإيطالية والبرتغالية والصينية.

يوفر azure الذكاء الاصطناعي Content خزينة ty حلا قويا ومرنا لاحتياجات con وضع الخيمة ration الخاصة بك. بالتبديل من Content Moderator إلى Azure الذكاء الاصطناعي Content خزينة ty، يمكنك الاستفادة من أحدث الأدوات والتقنيات للتأكد من أن المحتوى الخاص بك يتم الإشراف عليه دائما إلى المواصفات الدقيقة.

تعرف على المزيد حول Azure الذكاء الاصطناعي Content خزينة واستكشف كيف يمكن أن يرفع من مستوى استراتيجية con وضع الخيمة ration الخاصة بك.

إن Azure Content Moderator هي خدمة ذكاء اصطناعي تتيح لك التعامل مع المحتوى الذي يُحتمل أن يكون مسيئًا أو محفوفًا بالمخاطر أو غير مرغوب فيه بأي طريقة أخرى. استخدم خدمة الإشراف على المحتوى المدعومة بالذكاء الاصطناعي لمسح النص والصورة ومقاطع الفيديو ضوئياً وتطبيق علامات المحتوى تلقائياً.

قد ترغب في إنشاء برنامج لتصفية المحتوى في تطبيقك للامتثال للوائح أو الحفاظ على البيئة المقصودة للمستخدمين.

تحتوي هذه الوثائق على أنواع المقالات التالية:

للحصول على نهج أكثر تنظيما، اتبع وحدة تدريب ل Content Moderator.

مكان الاستخدام

فيما يلي بعض السيناريوهات التي قد يتطلب فيها مطور البرامج أو الفريق وجود خدمة الإشراف على المحتوى:

  • الأسواق الإلكترونية التي تشرف على كتالوجات المنتجات والمحتوى الآخر الذي ينشئه المستخدمون.
  • شركات الألعاب التي تشرف على القطع الأثرية للألعاب التي ينشئها المستخدمون وغرف الدردشة.
  • النظم الأساسية الاجتماعية للدردشة التي تشرف على الصور والنصوص والفيديو التي يضيفها مستخدموها.
  • شركات وسائط المؤسسات التي تطبق الإشراف المركزي على محتواها.
  • K-12 يقوم موفرو حلول التعليم من رياض الأطفال وحتى التعليم الثانوي بتصفية المحتوى غير المناسب للطلاب والمعلمين.

هام

لا يمكنك استخدام Content Moderator للكشف عن صور استغلال الأطفال غير القانونية. ومع ذلك، يمكن للمؤسسات المؤهلة استخدام PhotoDNA Cloud Service لفرز هذا النوع من المحتوى.

ما الذي يتضمنه

تتكون خدمة Content Moderator من عدة واجهات برمجة تطبيقات لخدمة الويب متاحة من خلال استدعاءات REST وNET SDK.

واجهات برمجة تطبيقات الإشراف

تشتمل خدمة Content Moderator على واجهات برمجة تطبيقات الإشراف، والتي تتحقق من عدم وجود مواد قد تكون غير لائقة أو مرفوضة.

رسم تخطيطي للكتل لواجهات برمجة تطبيقات الإشراف على المحتوى

يصف الجدول التالي الأنواع المختلفة لواجهات برمجة تطبيقات الإشراف على المحتوى.

مجموعة واجهة برمجة تطبيقات ‏‏الوصف
الإشراف على النص يقوم بفحص النص بحثًا عن محتوى مسيء أو محتوى جنسي صريح أو موحٍ جنسيًا والألفاظ النابية والبيانات الشخصية.
قوائم المصطلحات المخصصة يفحص النص مقابل قائمة مخصصة من المصطلحات جنبًا إلى جنب مع المصطلحات المضمنة. استخدم القوائم المخصصة لحظر المحتوى أو السماح به وفقًا لنُهج المحتوى الخاصة بك.
الإشراف على الصور يفحص الصور بحثًا عن محتوى للبالغين أو محتوى عِرقي، ويكتشف النص في الصور باستخدام إمكانية التعرف الضوئي على الأحرف (OCR)، ويكتشف الوجوه.
قوائم الصور المخصصة يفحص الصور ضوئيًا مقابل قائمة مخصصة للصور. استخدم قوائم الصور المخصصة لتصفية مثيلات المحتوى المتكرر الشائع الذي لا تريد تصنيفه مرة أخرى.
الإشراف على الفيديو يفحص مقاطع الفيديو بحثًا عن محتوى للبالغين أو محتوى عِرقي ويقوم بإرجاع علامات زمنية للمحتوى المذكور.

خصوصية البيانات وأمنها

كما هو الحال مع جميع خدمات Azure الذكاء الاصطناعي، يجب أن يكون المطورون الذين يستخدمون خدمة Content Moderator على دراية بسياسات Microsoft بشأن بيانات العملاء. راجع صفحة خدمات الذكاء الاصطناعي Azure في مركز توثيق Microsoft لمعرفة المزيد.

الخطوات التالية