Az Azure AI Content Safety újdonságai
Ismerje meg a szolgáltatás újdonságát. Ezek lehetnek kibocsátási megjegyzések, videók, blogbejegyzések és más típusú információk. Az oldal könyvjelzővel való megjelölésével naprakész maradhat az új funkciókkal, fejlesztésekkel, javításokkal és dokumentációs frissítésekkel.
A Tartalombiztonság verziószámozási és életciklus-kezelési szabályzataihoz való igazodáshoz a következő verziók lesznek ütemezve az elavulásra:
- 2024. október 28-án lép hatályba: A kivételével
2024-09-15-preview
2024-09-01
minden verzió elavult, és2024-09-30-preview
a továbbiakban nem támogatott. Javasoljuk a felhasználókat, hogy térjenek át a legújabb elérhető verziókra, hogy továbbra is teljes támogatást és frissítéseket kapjanak. Ha bármilyen kérdése van ezzel a folyamattal kapcsolatban, vagy segítségre van szüksége az átállással kapcsolatban, forduljon támogatási csapatunkhoz.
A multimodális API képtartalmakat és szöveges tartalmakat egyaránt tartalmazó anyagokat elemez, hogy biztonságosabbá tegye az alkalmazásokat és szolgáltatásokat a felhasználó által létrehozott vagy az AI által létrehozott káros tartalmakkal kapcsolatban. A kép és a hozzá tartozó szöveges tartalom együttes elemzése megőrizheti a kontextust, és átfogóbb képet biztosíthat a tartalomról. Az első lépésekhez kövesse a rövid útmutatót .
A védett anyagkód API védett kódtartalmakat jelöl (ismert GitHub-adattárakból, beleértve a szoftvertárakat, a forráskódot, az algoritmusokat és más védett programozási tartalmakat), amelyeket nagy nyelvi modellek kimenete lehet. Az első lépésekhez kövesse a rövid útmutatót .
Figyelemfelhívás
A tartalombiztonsági szolgáltatás kódolvasója/indexelője csak 2021. november 6-ig tart. A GitHubhoz ezen dátum után hozzáadott kód nem lesz észlelhető. Saját belátása szerint észlelheti a kód legutóbbi részeit a Védett anyagok kódhoz használata esetén.
A földiesség-észlelési API tartalmaz egy korrekciós funkciót, amely automatikusan javítja a szövegben észlelt, a földelési források alapján észlelt felesleges elemeket. Ha a javítási funkció engedélyezve van, a válasz tartalmaz egy corrected Text
mezőt, amely a kijavított szöveget a földelési forrásokhoz igazítja. Az első lépésekhez kövesse a rövid útmutatót .
Általánosan elérhető a Prompt Shields API és a szöveges API védett anyaga. A kipróbálásukhoz kövesse a rövid útmutatót.
Az egyéni kategóriák (standard) API lehetővé teszi saját egyéni tartalomkategóriák létrehozását és betanítása, valamint a szöveg egyezések keresését. További információért tekintse meg az egyéni kategóriákat .
Az egyéni kategóriák (gyors) API lehetővé teszi, hogy gyorsan definiálja a megjelenő káros tartalommintákat, és egyezéseket keressen a szövegben és a képekben. További információért tekintse meg az egyéni kategóriákat .
A korábban Jailbreak-kockázatészlelésnek nevezett frissített funkció gyors támadásokat észlel, amelyek során a felhasználók szándékosan kihasználják a rendszer biztonsági réseit, hogy jogosulatlan viselkedést váltanak ki a nagy nyelvi modellből. A Prompt Shields a közvetlen felhasználói és a közvetett támadásokat egyaránt elemzi, amelyek bemeneti dokumentumokba vagy képekbe vannak ágyazva. További információ: Parancssori pajzsok .
A földiesség-észlelési API észleli, hogy a nagy nyelvi modellek (LLM-ek) szöveges válaszai a felhasználók által biztosított forrásanyagokban vannak-e alapulva. A háttér nélküliség olyan eseteket ír le, ahol az LLM-ek olyan információkat hoznak létre, amelyek nem tényszerűek vagy pontatlanok a forrásanyagokban található információk alapján. További információ: Földi észlelés .
Az Azure AI Content Safety szolgáltatás általánosan elérhető az alábbi ügyfélkódtár-SDK-kon keresztül:
- C#: Csomag | API-referenciaminták | | Rövid útmutatók: Szöveg, Kép
- Python: Csomag | API-referenciaminták | | Rövid útmutatók: Szöveg, Kép
- Java: Csomag | API-referenciaminták | | Rövid útmutatók: Szöveg, Kép
- JavaScript: Csomag | API-referenciaminták | | Rövid útmutatók: Szöveg, Kép
Fontos
Az Azure AI Content Safety SDK-k nyilvános előzetes verziója 2024. március 31-ig megszűnik. Frissítse az alkalmazásokat a GA-verziók használatára.
Az új Jailbreak-kockázatészlelés és a védett anyagészlelési API-k lehetővé teszik a generatív AI használata során felmerülő kockázatok egy részének enyhítését.
- A jailbreak kockázatészlelés a nagy nyelvi modellen végzett jailbreak-támadás kockázatát vizsgálja. Gyors útmutató
- A védett anyagszöveg-észlelés az AI által létrehozott szöveget vizsgálja az ismert szöveges tartalmak (például dalszövegek, cikkek, receptek, kijelölt webes tartalom) után. Gyors útmutató
A feltörési kockázat és a védett anyagészlelés csak bizonyos régiókban érhető el. Lásd a régió rendelkezésre állását.
Az Azure AI Content Safety szolgáltatás már általánosan elérhető felhőszolgáltatásként.
- A szolgáltatás több Azure-régióban is elérhető. Tekintse meg a lista áttekintését .
- Az Elemzés API-k visszatérési formátuma megváltozott. A legújabb példákért tekintse meg a rövid útmutatókat.
- Számos más API neve és visszatérési formátuma megváltozott. A kompatibilitástörő változások teljes listáját a migrálási útmutatóban találja. Az egyéb útmutatók és rövid útmutatók mostantól a GA-verziót tükrözik.
Az Azure AI Content Safety szolgáltatás java- és JavaScript SDK-kon keresztül érhető el. Az SDK-k a Mavenben, illetve az npm-en érhetők el. Az első lépésekhez kövesse a rövid útmutatót.
Az Azure AI Content Safety szolgáltatás mostantól egy C# SDK-n keresztül érhető el. Az SDK elérhető a NuGeten. Az első lépésekhez kövesse a rövid útmutatót.
Az Azure AI Content Safety olyan anyagokat észlel, amelyek esetleg sértőek, kockázatosak vagy más módon nem kívánatosak. Ez a szolgáltatás korszerű szöveg- és képmodelleket kínál, amelyek észlelik a problémás tartalmakat. Az Azure AI Content Safety segít biztonságosabbá tenni az alkalmazásokat és szolgáltatásokat a felhasználók által létrehozott és AI által létrehozott tartalmakkal. Az első lépésekhez kövesse a rövid útmutatót.