مشاركة عبر

مفاهيم الإشراف على النص

هام

تم إهمال Azure Content Moderator اعتبارا من فبراير 2024 وسيتم إيقافه في 15 مارس 2027. يتم استبداله ب Azure الذكاء الاصطناعي Content Safety، والذي يوفر ميزات الذكاء الاصطناعي متقدمة وأداء محسنا.

Azure الذكاء الاصطناعي Content Safety هو حل شامل مصمم للكشف عن المحتوى الضار الذي ينشئه المستخدم وينشأ الذكاء الاصطناعي في التطبيقات والخدمات. يعد Azure الذكاء الاصطناعي Content Safety مناسبا للعديد من السيناريوهات مثل الأسواق عبر الإنترنت وشركات الألعاب ومنصات المراسلة الاجتماعية وشركات وسائط المؤسسات وموفري حلول التعليم K-12. فيما يلي نظرة عامة على ميزاته وقدراته:

  • واجهات برمجة التطبيقات للكشف عن النصوص والصور: فحص النصوص والصور بحثا عن المحتوى الجنسي والعنف والكراهية وإيذاء الذات مع مستويات خطورة متعددة.
  • Content Safety Studio: أداة عبر الإنترنت مصممة للتعامل مع المحتوى الذي يحتمل أن يكون مسيئا أو محفوفا بالمخاطر أو غير مرغوب فيه باستخدام أحدث نماذج التعلم الآلي لاعتدال المحتوى. يوفر قوالب ومهام سير عمل مخصصة تمكن المستخدمين من إنشاء أنظمة الإشراف على المحتوى الخاصة بهم.
  • دعم اللغة: يدعم Azure الذكاء الاصطناعي Content Safety أكثر من 100 لغة ويتم تدريبه خصيصا على اللغة الإنجليزية والألمانية واليابانية والإسبانية والفرنسية والإيطالية والبرتغالية والصينية.

يوفر Azure الذكاء الاصطناعي Content Safety حلا قويا ومرنا لاحتياجات الإشراف على المحتوى. من خلال التبديل من Content Moderator إلى Azure الذكاء الاصطناعي Content Safety، يمكنك الاستفادة من أحدث الأدوات والتقنيات للتأكد من أن المحتوى الخاص بك يتم الإشراف عليه دائما إلى المواصفات الدقيقة.

تعرف على المزيد حول Azure الذكاء الاصطناعي Content Safety واستكشف كيف يمكن رفع مستوى استراتيجية الإشراف على المحتوى.

يمكنك استخدام نماذج الإشراف على النص في Azure Content Moderator لتحليل محتوى النص، مثل غرف المحادثة ولوحات المناقشة وربوتات الدردشة وكتالوجات التجارة الإلكترونية والمستندات.

تتضمن استجابة الخدمة المعلومات التالية:

  • الألفاظ النابية: المطابقة المستندة إلى المصطلح مع قائمة مضمنة من المصطلحات النابية بلغات مختلفة
  • التصنيف: التصنيف بمساعدة الجهاز إلى ثلاث فئات
  • البيانات الشخصية
  • نص تم تصحيحه تلقائيا
  • النص الأصلي
  • اللغة

عبارات نابية

إذا اكتشفت واجهة برمجة التطبيقات أي مصطلحات نابية بأي من اللغات المدعومة، يتم تضمين هذه المصطلحات في الاستجابة. تحتوي الاستجابة أيضا على موقعها (Index) في النص الأصلي. ListId يشير في نموذج JSON التالي إلى المصطلحات الموجودة في قوائم المصطلحات المخصصة إذا كانت متوفرة.

"Terms": [
    {
        "Index": 118,
        "OriginalIndex": 118,
        "ListId": 0,
        "Term": "<offensive word>"
    }

ملاحظة

بالنسبة للمعلمة language ، قم بتعيينها eng أو اتركها فارغة لرؤية استجابة التصنيف بمساعدة الجهاز (ميزة المعاينة). تدعم هذه الميزة اللغة الإنجليزية فقط.

للكشف عن مصطلحات الألفاظ النابية ، استخدم رمز ISO 639-3 للغات المدعومة المدرجة في هذه المقالة، أو اتركه فارغا.

تصنيف

تدعم ميزة تصنيف النص بمساعدة الجهاز في Content Moderator اللغة الإنجليزية فقط، وتساعد على اكتشاف المحتوى غير المرغوب فيه. قد يتم تقييم المحتوى الذي تم وضع علامة عليه على أنه غير مناسب اعتمادا على السياق. كما أنه يزيد من احتمالية كل فئة. تستخدم هذه الميزة نموذجا مدربا لتحديد لغة محتملة للكشف عن العارضات أو العارضات أو اللغة العارضة. وهذا يتضمن كلمات عامية واختصارية ومتناهية والكلمات غير المفوتنة عن عمد.

يوضح الاستخراج التالي في استخراج JSON مثالا على الإخراج:

"Classification": {
    "ReviewRecommended": true,
    "Category1": {
        "Score": 1.5113095059859916E-06
    },
    "Category2": {
        "Score": 0.12747249007225037
    },
    "Category3": {
        "Score": 0.98799997568130493
    }
}

الشرح

  • Category1 يشير إلى احتمال وجود لغة يمكن اعتبارها صريحة جنسيا أو بالغة في حالات معينة.
  • Category2 يشير إلى احتمال وجود لغة يمكن اعتبارها موحية جنسيا أو ناضجة في حالات معينة.
  • Category3 يشير إلى الوجود المحتمل للغة التي قد تعتبر مسيئة في حالات معينة.
  • Score بين 0 و1. كلما ارتفعت الدرجة، ارتفع احتمال أن تكون الفئة قابلة للتطبيق. تعتمد هذه الميزة على نموذج إحصائي بدلا من النتائج المشفرة يدويا. نوصي بالاختبار باستخدام المحتوى الخاص بك لتحديد كيفية توافق كل فئة مع متطلباتك.
  • ReviewRecommended إما صواب أو خطأ اعتمادا على حدود النتيجة الداخلية. يجب على العملاء تقييم ما إذا كانوا سيستخدمون هذه القيمة أو يقرروا الحدود المخصصة بناء على نهج المحتوى الخاصة بهم.

البيانات الشخصية

تكتشف ميزة البيانات الشخصية الوجود المحتمل لهذه المعلومات:

  • عنوان البريد الإلكتروني
  • العنوان البريدي للولايات المتحدة
  • عنوان IP
  • رقم هاتف الولايات المتحدة

يوضح المثال التالي نموذج استجابة:

"pii":{
  "email":[
      {
        "detected":"abcdef@abcd.com",
        "sub_type":"Regular",
        "text":"abcdef@abcd.com",
        "index":32
      }
  ],
  "ssn":[

  ],
  "ipa":[
      {
        "sub_type":"IPV4",
        "text":"255.255.255.255",
        "index":72
      }
  ],
  "phone":[
      {
        "country_code":"US",
        "text":"6657789887",
        "index":56
      }
  ],
  "address":[
      {
        "text":"1 Microsoft Way, Redmond, WA 98052",
        "index":89
      }
  ]
}

التصحيح التلقائي

يمكن أن ترجع استجابة الإشراف على النص النص اختياريا مع تطبيق التصحيح التلقائي الأساسي.

على سبيل المثال، يحتوي نص الإدخال التالي على خطأ إملائي.

الثعلب البني السريع يقفز فوق الزقزق.

إذا قمت بتحديد التصحيح التلقائي، فستحتوي الاستجابة على الإصدار المصحح من النص:

الثعلب البني السريع يقفز فوق الكسول.

إنشاء قوائم المصطلحات المخصصة وإدارتها

في حين أن القائمة الافتراضية للمصطلحات العمومية تعمل بشكل رائع لمعظم الحالات، فقد ترغب في إجراء شاشة مقابل المصطلحات الخاصة باحتياجات عملك. على سبيل المثال، قد ترغب في تصفية أي أسماء علامات تجارية تنافسية من المنشورات بواسطة المستخدمين.

ملاحظة

هناك حد أقصى لخمس قوائم مصطلحاتمع عدم تجاوز كل قائمة 10,000 مصطلح.

يوضح المثال التالي معرف القائمة المطابق:

"Terms": [
    {
        "Index": 118,
        "OriginalIndex": 118,
        "ListId": 231.
        "Term": "<offensive word>"
    }

يوفر Content Moderator واجهة برمجة تطبيقات لقائمة المصطلحات مع عمليات لإدارة قوائم المصطلحات المخصصة. تحقق من البدء السريع لقوائم المصطلحات .NET إذا كنت على دراية ب Visual Studio وC#.

المحتويات ذات الصلة