Vad är Azure AI Content Valv ty?

  • Artikel

Azure AI Content Valv ty identifierar skadligt användargenererat och AI-genererat innehåll i program och tjänster. Azure AI Content Valv ty innehåller text- och bild-API:er som gör att du kan identifiera skadligt material. Vi har också en interaktiv Content Valv ty Studio som gör att du kan visa, utforska och prova exempelkod för att identifiera skadligt innehåll över olika metoder.

Programvara för innehållsfiltrering kan hjälpa din app att följa regler eller underhålla den avsedda miljön för dina användare.

Den här dokumentationen innehåller följande artikeltyper:

  • Snabbstarter är komma igång-instruktioner som hjälper dig att göra begäranden till tjänsten.
  • Instruktionsguider innehåller instruktioner för hur du använder tjänsten på mer specifika eller anpassade sätt.
  • Begrepp ger djupgående förklaringar av tjänstens funktioner och funktioner.

Där den används

Följande är några scenarier där en programutvecklare eller ett team skulle kräva en con tältläge ration-tjänst:

  • Marknadsplatser online som moderera produktkataloger och annat användargenererat innehåll.
  • Spelföretag som modererade användargenererade spelartefakter och chattrum.
  • Plattformar för sociala meddelanden som moderera bilder och text som läggs till av användarna.
  • Företagsmedieföretag som implementerar centraliserad moderering för sitt innehåll.
  • K-12 utbildningslösningsleverantörer filtrerar bort innehåll som är olämpligt för studenter och lärare.

Viktigt!

Du kan inte använda Azure AI Content Valv ty för att identifiera otillåtna barnexploateringsbilder.

Produkttyper

Det finns olika typer av analys som är tillgängliga från den här tjänsten. I följande tabell beskrivs de api:er som för närvarande är tillgängliga.

Typ Funktioner
Analysera text-API Söker igenom text efter sexuellt innehåll, våld, hat och självskadebeteende med flera allvarlighetsnivåer.
Analysera bild-API Söker igenom bilder efter sexuellt innehåll, våld, hat och självskadebeteende med flera allvarlighetsnivåer.
Prompt Shields (förhandsversion) Söker igenom text efter risken för ett användarindataangrepp på en stor språkmodell. Snabbstart
Identifiering av grundlighet (förhandsversion) Identifierar om textsvaren från stora språkmodeller (LLM) är baserade på källmaterialet som tillhandahålls av användarna. Snabbstart
Skyddad materialtextidentifiering (förhandsversion) Söker igenom AI-genererad text efter känt textinnehåll (till exempel låttexter, artiklar, recept, valt webbinnehåll). Snabbstart

Content Valv ty Studio

Azure AI Content Valv ty Studio är ett onlineverktyg som är utformat för att hantera potentiellt stötande, riskfyllt eller oönskat innehåll med hjälp av avancerade ML-modeller för con tältläge ration. Den innehåller mallar och anpassade arbetsflöden som gör det möjligt för användare att välja och skapa ett eget con tältläge rationssystem. Användare kan ladda upp sitt eget innehåll eller prova det med angivet exempelinnehåll.

Innehåll Valv ty Studio innehåller inte bara färdiga AI-modeller utan innehåller även Microsofts inbyggda blocklistor för att flagga svordomar och hålla dig uppdaterad med nya trender. Du kan också ladda upp dina egna blocklistor för att förbättra täckningen av skadligt innehåll som är specifikt för ditt användningsfall.

Med Studio kan du också konfigurera ett modereringsarbetsflöde, där du kontinuerligt kan övervaka och förbättra prestanda för kon tältläge ration. Det kan hjälpa dig att uppfylla innehållskraven från alla typer av branscher som spel, media, utbildning, e-handel med mera. Företag kan enkelt ansluta sina tjänster till Studio och få sina con tältläge rated i realtid, oavsett om de är användargenererade eller AI-genererade.

Alla dessa funktioner hanteras av Studio och dess serverdel. kunder behöver inte bekymra sig om modellutveckling. Du kan registrera dina data för snabb validering och övervaka dina KPI:er i enlighet med detta, till exempel tekniska mått (svarstid, noggrannhet, återkallande) eller affärsmått (blockfrekvens, blockvolym, kategoriproportioner, språkproportioner med mera). Med enkla åtgärder och konfigurationer kan kunderna snabbt testa olika lösningar och hitta den bästa lösningen i stället för att experimentera med anpassade modeller eller göra måtta manuellt.

Content Valv ty Studio

Innehåll Valv ty Studio-funktioner

I Content Valv ty Studio finns följande funktioner för Azure AI Content Valv ty-tjänsten tillgängliga:

  • Måttligt textinnehåll: Med textmodereringsverktyget kan du enkelt köra tester på textinnehåll. Oavsett om du vill testa en enda mening eller en hel datauppsättning erbjuder vårt verktyg ett användarvänligt gränssnitt som gör att du kan utvärdera testresultaten direkt i portalen. Du kan experimentera med olika känslighetsnivåer för att konfigurera innehållsfilter och blocklisthantering, vilket säkerställer att innehållet alltid modereras enligt dina exakta specifikationer. Med möjligheten att exportera koden kan du dessutom implementera verktyget direkt i ditt program, effektivisera arbetsflödet och spara tid.

  • Moderera bildinnehåll: Med verktyget för bildmoderering kan du enkelt köra tester på bilder för att säkerställa att de uppfyller dina innehållsstandarder. Med vårt användarvänliga gränssnitt kan du utvärdera testresultaten direkt i portalen, och du kan experimentera med olika känslighetsnivåer för att konfigurera dina innehållsfilter. När du har anpassat inställningarna kan du enkelt exportera koden för att implementera verktyget i ditt program.

  • Övervaka onlineaktivitet: Med den kraftfulla övervakningssidan kan du enkelt spåra din användning och trender för modererings-API:et mellan olika metoder. Med den här funktionen kan du komma åt detaljerad svarsinformation, inklusive kategori- och allvarlighetsgradsfördelning, svarstid, fel och blocklisteidentifiering. Den här informationen ger dig en fullständig översikt över dina con tältläge ration prestanda, så att du kan optimera arbetsflödet och se till att ditt innehåll alltid modereras enligt dina exakta specifikationer. Med vårt användarvänliga gränssnitt kan du snabbt och enkelt navigera på övervakningssidan för att få åtkomst till den information du behöver för att fatta välgrundade beslut om din strategi för tältläge ration. Du har de verktyg du behöver för att hålla koll på din con tältläge ration prestanda och uppnå dina innehållsmål.

Indatakrav

Den maximala standardlängden för textöverföringar är 10 000 tecken. Om du behöver analysera längre textblock kan du dela upp indatatexten (till exempel genom skiljetecken eller avstånd) mellan flera relaterade inlämningar.

Den maximala storleken för bildöverföringar är 4 MB och bilddimensionerna måste vara mellan 50 x 50 bildpunkter och 2 048 x 2 048 bildpunkter. Bilder kan vara i JPEG-, PNG-, GIF-, BMP-, TIFF- eller WEBP-format.

Säkerhet

Använda Microsoft Entra-ID eller hanterad identitet för att hantera åtkomst

För förbättrad säkerhet kan du använda Microsoft Entra-ID eller hanterad identitet (MI) för att hantera åtkomst till dina resurser.

  • Hanterad identitet aktiveras automatiskt när du skapar en innehållsresurs Valv ty.
  • Microsoft Entra-ID stöds i både API- och SDK-scenarier. Se den allmänna AI-tjänstguiden för att autentisera med Microsoft Entra-ID. Du kan också ge åtkomst till andra användare i din organisation genom att tilldela dem rollerna Cognitive Services-användare och läsare. Mer information om hur du beviljar användaråtkomst till Azure-resurser med hjälp av Azure-portalen finns i guiden Rollbaserad åtkomstkontroll.

Data i paus och kryptering

Lär dig hur Azure AI Content Valv ty hanterar kryptering och dekryptering av dina data. Kundhanterade nycklar (CMK), även kallade BYOK (Bring Your Own Key), ger större flexibilitet att skapa, rotera, inaktivera och återkalla åtkomstkontroller. Du kan också granska krypteringsnycklarna som används för att skydda dina data.

Prissättning

För närvarande har Azure AI Content Valv ty prisnivån F0 och S0.

Tjänstbegränsningar

Språkstöd

Innehållsmodeller Valv ty har tränats och testats specifikt på följande språk: engelska, tyska, japanska, spanska, franska, italienska, portugisiska och kinesiska. Tjänsten kan dock fungera på många andra språk, men kvaliteten kan variera. I samtliga fall bör du göra dina egna tester för att säkerställa att det fungerar för ditt program.

Mer information finns i Språkstöd.

Region/plats

Om du vill använda API:er för innehåll Valv ty måste du skapa din Azure AI Content Valv ty-resurs i de regioner som stöds. För närvarande är den tillgänglig i följande Azure-regioner:

  • Australien, östra
  • Östra Kanada
  • Central US
  • East US
  • USA, östra 2
  • Centrala Frankrike
  • Japan, östra
  • USA, norra centrala
  • USA, södra centrala
  • Schweiz, norra
  • Storbritannien, södra
  • Europa, västra
  • Västra USA 2
  • Sverige, centrala

Funktioner för offentlig förhandsversion, till exempel Prompt Shields och identifiering av skyddat material, är tillgängliga i följande Azure-regioner:

  • East US
  • Europa, västra

Kontakta oss gärna om du behöver andra regioner för ditt företag.

Frågefrekvenser

Prisnivå Begäranden per 10 sekunder (RPS)
F0 1000
S0 1000

Kontakta oss om du behöver ett snabbare pris.

Kontakta oss

Om du fastnar kan du skicka ett e-postmeddelande till oss eller använda feedbackwidgeten längst upp till höger på en dokumentsida.

Nästa steg

Följ en snabbstart för att komma igång med Azure AI Content Valv ty i ditt program.

Snabbstart för innehålls Valv ty