Was gibt es Neues bei Azure KI Inhaltssicherheit?
Informieren Sie sich über die Neuerungen im Dienst. Bei diesen Elementen kann es sich um Versionshinweise, Videos, Blogbeiträge und andere Arten von Informationen handeln. Legen Sie ein Lesezeichen für diese Seite an, um aktuelle Informationen zu neuen Features, Verbesserungen, Fixes und Dokumentationsaktualisierungen zu erhalten.
September 2024
Multimodale Analyse (Vorschau)
Die multimodale API analysiert Materialien, die sowohl Bild- als auch Textinhalte enthalten, um Anwendungen und Dienste vor schädlichen benutzergenerierten oder KI-generierten Inhalten zu schützen. Die gleichzeitige Analyse einer Abbildung und des zugehörigen Textinhalts kann den Kontext bewahren und ein umfassenderes Verständnis des Inhalts ermöglichen. Im Schnellstart erfahren Sie mehr zu den ersten Schritten.
Geschützte Materialerkennung für Code (Vorschau)
Die API für geschützte Matericalkennung kennzeichnet geschützte Inhalte (aus bekannten GitHub-Repositorys, einschließlich Software-Bibliotheken, Quellcode, Algorithmen und anderen proprietären Programmierinhalten), die von großen Sprachmodellen ausgegeben werden könnten. Im Schnellstart erfahren Sie mehr zu den ersten Schritten.
Achtung
Der Codescanner/Indexer des Inhaltssicherheitsdiensts ist nur bis zum 6. November 2021 aktuell. Code, der nach diesem Datum zu GitHub hinzugefügt wurde, wird nicht erkannt. Verwenden Sie Ihren eigenen Ermessensspielraum, wenn Sie geschütztes Material für Code verwenden, um aktuelle Codetexte zu erkennen.
Korrektur der Erdungserkennung (Vorschau)
Die API zur Erdungserkennung enthält eine Korrekturfunktion, die automatisch jede erkannte Nicht-Erdung im Text auf der Grundlage der bereitgestellten Erdungsquellen korrigiert. Wenn die Korrekturfunktion aktiviert ist, enthält die Antwort ein corrected Text-Feld, das den korrigierten Text darstellt, der an den Erdungsquellen ausgerichtet ist. Im Schnellstart erfahren Sie mehr zu den ersten Schritten.
August 2024
Neue Features sind GA
Die Prompt Shields-API und die Groundedness-Erkennungs-API sind jetzt allgemein verfügbar. Folgen Sie einer Schnellstartanleitung, um sie auszuprobieren.
Juli 2024
Public Preview der API für benutzerdefinierte Kategorien (Standard)
Mit der API für benutzerdefinierte Kategorien (Standard) können Sie eigene benutzerdefinierte Inhaltskategorien erstellen und trainieren und Text auf Übereinstimmungen überprüfen. Weitere Informationen finden Sie unter Benutzerdefinierte Kategorien.
Mai 2024
Public Preview der API für benutzerdefinierte Kategorien (schnell)
Mit der API für benutzerdefinierte Kategorien (schnell) können Sie Muster schnell für auftretende schädliche Inhalte definieren und Text und Bilder auf Übereinstimmungen überprüfen. Weitere Informationen finden Sie unter Benutzerdefinierte Kategorien.
März 2024
Öffentliche Vorschau Prompt Shields
Zuvor als Erkennung von Jailbreak-Risiken bezeichnet, erkennt dieses aktualisierte Feature Promptangriffe, in denen Benutzer bewusst Systemrisiken ausnutzen, um bei einem großen Sprachmodell nicht autorisiertes Verhalten auszulösen. Prompt Shields analysiert sowohl direkte Benutzerpromptangriffe als auch indirekte Angriffe, die in Eingabedokumente oder -bilder eingebettet sind. Weitere Informationen finden Sie unter Prompt Shields.
Öffentliche Vorschau der Groundedness-Erkennung
Die Groundedness-Erkennungs-API erkennt, ob sich die Textantworten großer Sprachmodelle (LLMs) auf die von den Benutzern bereitgestellten Quellmaterialien stützen. Unbegründetheit bezieht sich auf Fälle, in denen die LLMs Informationen erzeugen, die gemessen am Inhalt des Quellmaterials nicht korrekt oder ungenau sind. Weitere Informationen finden Sie unter Groundedness-Erkennung.
Januar 2024
Allgemeine Verfügbarkeit des Content Safety SDK
Der Dienst „Azure KI Inhaltssicherheit“ ist jetzt allgemein über die folgenden Clientbibliothek-SDKs verfügbar.
- C#: Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
- Python: Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
- Java: Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
- JavaScript: Paket | API-Referenz | Beispiele | Schnellstarts: Text, Bild
Wichtig
Die öffentlichen Vorschauversionen der Azure KI Content Safety SDKs sind ab dem 31. März 2024 veraltet. Aktualisieren Sie Ihre Anwendungen für die Verwendung der GA-Versionen.
November 2023
Erkennung von Jailbreak-Risiken und geschützte Materialerkennung (Vorschau)
Mit den neuen APIs für die Erkennung von Jailbreak-Risiken und für die geschützte Materialerkennung können Sie einige der Risiken im Zusammenhang mit der Verwendung von generativer KI verringern.
- Jailbreak-Risikoerkennung scannt Text für das Risiko eines Jailbreak-Angriffs auf ein großes Sprachmodell. Schnellstart
- Die Erkennung geschützter Materialtext überprüft KI-generierten Text auf bekannte Textinhalte (z. B. Songtexte, Artikel, Rezepte, ausgewählte Webinhalte). Schnellstart
Die Erkennung von Jailbreak-Risiken und die geschützte Materialerkennung sind nur in ausgewählten Regionen verfügbar. Weitere Informationen finden Sie unter Verfügbarkeit der Regionen.
Oktober 2023
Azure KI Inhaltssicherheit ist allgemein verfügbar (General Availability, GA)
Der Azure KI-Inhaltssicherheits-Dienst ist jetzt allgemein als Clouddienst verfügbar.
- Der Dienst ist in vielen weiteren Azure-Regionen verfügbar. Eine Liste finden Sie in der Übersicht.
- Die Rückgabeformate der Analyse-APIs wurden geändert. Die neuesten Beispiele finden Sie in den Schnellstarts.
- Die Namen und Rückgabeformate mehrerer anderer APIs haben sich geändert. Eine vollständige Liste der Breaking Changes finden Sie im Migrationsleitfaden. Andere Leitfäden und Schnellstarts entsprechen jetzt der GA-Version.
Java- und JavaScript-SDKs für Azure KI Inhaltssicherheit
Der Azure KI-Inhaltssicherheits-Dienst ist jetzt über Java- und JavaScript-SDKs verfügbar. Die SDKs sind in Maven bzw. in npm verfügbar. Nutzen Sie einen Schnellstart, um erste Schritte auszuführen.
Juli 2023
Azure KI Inhaltssicherheit C#-SDK
Der Azure KI Content Safety-Dienst ist jetzt über ein C#-SDK verfügbar. Das SDK steht unter NuGet zur Verfügung. Nutzen Sie einen Schnellstart, um erste Schritte auszuführen.
Mai 2023
Azure KI Inhaltssicherheit (öffentliche Vorschau)
Azure KI Content Safety erkennt Material, das möglicherweise anstößig, risikobehaftet oder anderweitig unerwünscht ist. Dieser Dienst bietet modernste Text- und Bilderkennungsmodelle zum Ausmachen problematischer Inhalte. Azure KI Content Safety trägt dazu bei, Anwendungen und Dienste vor schädlichen von Benutzern und KI generierten Inhalten zu schützen. Nutzen Sie einen Schnellstart, um erste Schritte auszuführen.