Nyheter i Azure AI Content Safety
Lär dig vad som är nytt i tjänsten. Dessa objekt kan vara viktig information, videor, blogginlägg och andra typer av information. Bokmärke den här sidan för att hålla dig uppdaterad med nya funktioner, förbättringar, korrigeringar och dokumentationsuppdateringar.
September 2024
Multimodal analys (förhandsversion)
Multimodal-API:et analyserar material som innehåller både bildinnehåll och textinnehåll för att göra program och tjänster säkrare från skadligt användargenererat eller AI-genererat innehåll. Att analysera en bild och dess tillhörande textinnehåll tillsammans kan bevara kontexten och ge en mer omfattande förståelse av innehållet. Följ snabbstarten för att komma igång.
Identifiering av skyddat material för kod (förhandsversion)
API:et för skyddad materialkod flaggar skyddat kodinnehåll (från kända GitHub-lagringsplatser, inklusive programvarubibliotek, källkod, algoritmer och annat upphovsrättsskyddat programmeringsinnehåll) som kan matas ut av stora språkmodeller. Följ snabbstarten för att komma igång.
Varning
Innehållssäkerhetstjänstens kodskanner/indexerare är endast aktuell till och med den 6 november 2021. Kod som lades till i GitHub efter det här datumet identifieras inte. Använd ditt eget omdöme när du använder skyddat material för kod för att identifiera de senaste kodkropparna.
Grundkorrigering (förhandsversion)
API:et för grundidentifiering innehåller en korrigeringsfunktion som automatiskt korrigerar eventuell upptäckt ogrundad text i texten baserat på de angivna grundkällorna. När korrigeringsfunktionen är aktiverad innehåller svaret ett corrected Text fält som visar den korrigerade texten i linje med grundkällorna. Följ snabbstarten för att komma igång.
Augusti 2024
Nya funktioner är GA
API:et promptsköldar och api för grundidentifiering är nu allmänt tillgängliga (GA). Följ en snabbstart för att prova dem.
Juli 2024
Offentlig förhandsversion av api för anpassade kategorier (standard)
Med API:et för anpassade kategorier (standard) kan du skapa och träna dina egna anpassade innehållskategorier och genomsöka text efter matchningar. Mer information finns i Anpassade kategorier .
Maj 2024
Offentlig förhandsversion av anpassade kategorier (snabb) API
Med API:et för anpassade kategorier (snabb) kan du snabbt definiera nya skadliga innehållsmönster och genomsöka text och bilder efter matchningar. Mer information finns i Anpassade kategorier .
Mars 2024
Offentlig förhandsversion av Prompt Shields
Tidigare känd som Jailbreak riskidentifiering, identifierar den här uppdaterade funktionen promptattacker, där användare avsiktligt utnyttjar systemsårbarheter för att framkalla obehörigt beteende från en stor språkmodell. Prompt Shields analyserar både direktanvändarattacker och indirekta attacker som är inbäddade i indatadokument eller bilder. Mer information finns i Fråga om sköldar .
Offentlig förhandsversion av markavkänningsidentifiering
API:et för grundidentifiering identifierar om textsvaren från stora språkmodeller (LLM) är baserade på källmaterialet som tillhandahålls av användarna. Ogrundad information beskriver instanser där LLM:erna producerar information som inte är faktisk eller felaktig beroende på vad som fanns i källmaterialet. Mer information finns i Grundidentifiering .
Januari 2024
Content Safety SDK GA
Azure AI Content Safety-tjänsten är nu allmänt tillgänglig via följande klientbiblioteks-SDK:er:
- C#: Referensexempel för | paket-API | | Snabbstarter: Text, bild
- Python: Paket-API-referensexempel | | | Snabbstarter: Text, bild
- Java: Paket-API-referensexempel | | | Snabbstarter: Text, bild
- JavaScript: Paket-API-referensexempel | | | Snabbstarter: Text, bild
Viktigt!
De offentliga förhandsversionerna av Azure AI Content Safety SDK:er kommer att vara inaktuella senast den 31 mars 2024. Uppdatera dina program så att de använder GA-versionerna.
November 2023
Jailbreaka risk och skyddad materialidentifiering (förhandsversion)
Med de nya API:erna för säkerhetsriskidentifiering och skyddad materialidentifiering kan du minimera några av riskerna när du använder generativ AI.
- Jailbreak riskidentifiering söker igenom text efter risken för en jailbreak-attack på en stor språkmodell. Snabbstart
- Skyddad materialtextidentifiering söker igenom AI-genererad text efter känt textinnehåll (till exempel låttexter, artiklar, recept, valt webbinnehåll). Snabbstart
Risk för jailbreak och skyddad materialidentifiering är endast tillgängliga i utvalda regioner. Se Regiontillgänglighet.
Oktober 2023
Azure AI Content Safety är allmänt tillgängligt (GA)
Azure AI Content Safety-tjänsten är nu allmänt tillgänglig som en molntjänst.
- Tjänsten är tillgänglig i många fler Azure-regioner. Se Översikt för en lista.
- Returformaten för Analysera API:er har ändrats. Se snabbstarterna för de senaste exemplen.
- Namn och returformat för flera andra API:er har ändrats. Se migreringsguiden för en fullständig lista över icke-bakåtkompatibla ändringar. Andra guider och snabbstarter återspeglar nu GA-versionen.
Azure AI Content Safety Java- och JavaScript-SDK:er
Tjänsten Azure AI Content Safety är nu tillgänglig via Java- och JavaScript-SDK:er. SDK:erna är tillgängliga på Maven respektive npm. Följ en snabbstart för att komma igång.
juli 2023
Azure AI Content Safety C# SDK
Azure AI Content Safety-tjänsten är nu tillgänglig via en C# SDK. SDK:n är tillgänglig på NuGet. Följ en snabbstart för att komma igång.
maj 2023
Offentlig förhandsversion av Azure AI Content Safety
Azure AI Content Safety identifierar material som kan vara stötande, riskabelt eller på annat sätt oönskat. Den här tjänsten erbjuder toppmoderna text- och bildmodeller som identifierar problematiskt innehåll. Azure AI Content Safety hjälper till att göra program och tjänster säkrare från skadligt användargenererat och AI-genererat innehåll. Följ en snabbstart för att komma igång.