Tartalombiztonsági eszköz folyamatokhoz az Azure AI Studióban

  • Cikk

Megjegyzés:

Az Azure AI Studio jelenleg nyilvános előzetes verzióban érhető el. Ez az előzetes verzió szolgáltatásszintű szerződés nélkül érhető el, és éles számítási feladatokhoz nem ajánlott. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. For more information, see Supplemental Terms of Use for Microsoft Azure Previews.

A prompt flow Content Széf ty eszköz lehetővé teszi az Azure AI Content Széf ty használatát az Azure AI Studióban.

Az Azure AI Content Széf ty egy con sátormód ration szolgáltatás, amely segít észlelni a különböző modalitásokból és nyelvekből származó káros tartalmakat. További információ: Azure AI Content Széf ty.

Előfeltételek

Azure Content Széf ty-kapcsolat létrehozása:

  1. Jelentkezzen be az Azure AI Studióba.
  2. Lépjen a Beállítások kapcsolatok menüpontba>.
  3. Válassza az + Új kapcsolat lehetőséget.
  4. Az új kapcsolat létrehozása párbeszédpanelen végezze el az összes lépést. Azure AI-erőforrást vagy Azure AI Content Széf ty erőforrást is használhat. Javasoljuk, hogy több Azure AI-szolgáltatást támogató Azure AI-erőforrást használjon.

Buildelés a Content Széf ty eszközzel

  1. Folyamat létrehozása vagy megnyitása az Azure AI Studióban. További információ: Folyamat létrehozása.

  2. Válassza a + További eszközök>Tartalom Széf ty (Szöveg) lehetőséget a Tartalom Széf ty eszköz hozzáadásához a folyamathoz.

    Screenshot of the Content Safety tool added to a flow in Azure AI Studio.

  3. Válassza ki az egyik kiépített erőforráshoz való kapcsolatot. Válassza például az AzureAIContent Széf ty Csatlakozás ion lehetőséget, ha ezzel a névvel hozott létre kapcsolatot. For more information, see Prerequisites.

  4. Adja meg az itt leírt Tartalom Széf ty eszköz bemeneti paramétereinek értékeit.

  5. Szükség szerint adjon hozzá további eszközöket a folyamathoz, vagy válassza a Futtatás lehetőséget a folyamat futtatásához.

  6. A kimeneteket itt ismertetjük.

Inputs

A következő bemeneti paraméterek érhetők el:

Name Type Description Required
text sztring A moderálandó szöveg. Igen
hate_category sztring A Gyűlölet kategória moderálási érzékenysége. Négy lehetőség közül választhat: letilthatja, low_sensitivity, medium_sensitivity vagy high_sensitivity. A letiltási beállítás azt jelenti, hogy nincs moderálás a gyűlöletkategóriára vonatkozóan. A másik három lehetőség különböző szigorúságot jelent a gyűlölettartalmak kiszűrésében. Az alapértelmezett beállítás a medium_sensitivity. Igen
sexual_category sztring A szexuális kategória moderálási érzékenysége. Négy lehetőség közül választhat: letilthatja, low_sensitivity, medium_sensitivity vagy high_sensitivity. A letiltási lehetőség azt jelenti, hogy nincs moderálás a szexuális kategóriához. A másik három lehetőség különböző szigorúsági fokot jelent a szexuális tartalom szűrésében. Az alapértelmezett beállítás a medium_sensitivity. Igen
self_harm_category sztring Az önkárosítási kategória moderálási érzékenysége. Négy lehetőség közül választhat: letilthatja, low_sensitivity, medium_sensitivity vagy high_sensitivity. A letiltási beállítás azt jelenti, hogy nincs moderálás az önkárosítási kategória esetében. A másik három lehetőség a self_harm tartalom szűrésének különböző szigorúsági fokát jelenti. Az alapértelmezett beállítás a medium_sensitivity. Igen
violence_category sztring Az Erőszak kategória moderálási érzékenysége. Négy lehetőség közül választhat: letilthatja, low_sensitivity, medium_sensitivity vagy high_sensitivity. A letiltási lehetőség azt jelenti, hogy nincs moderálás az erőszak kategóriájában. A másik három lehetőség a szigorúság különböző fokát jelenti az erőszakos tartalmak kiszűrésében. Az alapértelmezett beállítás a medium_sensitivity. Igen

Outputs

Az eszköz a következő JSON formátumválaszt adja vissza:

{
    "action_by_category": {
      "Hate": "Accept",
      "SelfHarm": "Accept",
      "Sexual": "Accept",
      "Violence": "Accept"
    },
    "suggested_action": "Accept"
  }

Az eszköz bemeneteként a következő paramétereket használhatja:

Name Type Description
action_by_category sztring Bináris érték minden kategóriához: Elfogadás vagy elutasítás. Ez az érték azt mutatja, hogy a szöveg megfelel-e az adott kategória kérelemparamétereiben beállított bizalmassági szintnek.
suggested_action sztring Általános javaslat a négy kategória alapján. Ha bármely kategória elutasító értékkel rendelkezik, akkor az suggested_actionElutasítás is.

További lépések