Udostępnij za pośrednictwem

Co nowego w zabezpieczeniach zawartości sztucznej inteligencji platformy Azure

  • Artykuł

Dowiedz się, co nowego w usłudze. Te elementy mogą być informacjami o wersji, klipami wideo, wpisami w blogu i innymi typami informacji. Oznacz tę stronę zakładką, aby być na bieżąco z nowymi funkcjami, ulepszeniami, poprawkami i aktualizacjami dokumentacji.

Październik 2024 r.

Nadchodzące wycofywanie

Aby dostosować się do zasad zarządzania wersjami i cyklem życia bezpieczeństwa zawartości, zaplanowano wycofanie następujących wersji:

  • Od 28 października 2024 r. wszystkie wersje z wyjątkiem 2024-09-01, 2024-09-15-previewi 2024-09-30-preview będą przestarzałe i nie będą już obsługiwane. Zachęcamy użytkowników do przejścia do najnowszych dostępnych wersji, aby nadal otrzymywać pełną pomoc techniczną i aktualizacje. Jeśli masz pytania dotyczące tego procesu lub potrzebujesz pomocy dotyczącej przejścia, skontaktuj się z naszym zespołem pomocy technicznej.

Wrzesień 2024 r.

Analiza wielomodalna (wersja zapoznawcza)

Interfejs API wielomodalny analizuje materiały zawierające zarówno zawartość obrazu, jak i zawartość tekstową, aby ułatwić aplikacjom i usługom bezpieczniejsze działanie szkodliwej zawartości generowanej przez użytkownika lub generowanej przez sztuczną inteligencję. Analizowanie obrazu i skojarzonej z nim zawartości tekstowej może zachować kontekst i zapewnić bardziej kompleksowe zrozumienie zawartości. Postępuj zgodnie z przewodnikiem Szybki start , aby rozpocząć pracę.

Wykrywanie materiałów chronionych dla kodu (wersja zapoznawcza)

Interfejs API chronionego kodu materiałów flaguje chronioną zawartość kodu (ze znanych repozytoriów GitHub, w tym bibliotek oprogramowania, kodu źródłowego, algorytmów i innej zastrzeżonej zawartości programowania), która może być wyjściowa przez duże modele językowe. Postępuj zgodnie z przewodnikiem Szybki start , aby rozpocząć pracę.

Uwaga

Skaner/indeksator kodu usługi bezpieczeństwa zawartości jest obecny tylko do 6 listopada 2021 r. Kod dodany do usługi GitHub po tej dacie nie zostanie wykryty. Użyj własnego uznania w przypadku używania materiałów chronionych dla kodu do wykrywania ostatnich treści kodu.

Korekta uziemienia (wersja zapoznawcza)

Interfejs API wykrywania naziemności zawiera funkcję poprawek, która automatycznie poprawia wszelkie wykryte niezaziemnianie w tekście na podstawie podanych źródeł uziemienia. Po włączeniu funkcji korekty odpowiedź zawiera corrected Text pole przedstawiające poprawiony tekst wyrównany do źródeł uziemienia. Postępuj zgodnie z przewodnikiem Szybki start , aby rozpocząć pracę.

Sierpień 2024 r.

Nowe funkcje są ogólnie dostępne

Interfejs API prompt shields i materiał chroniony dla interfejsu API tekstu są teraz ogólnie dostępne (GA). Postępuj zgodnie z przewodnikiem Szybki start, aby wypróbować je.

Lipiec 2024 r.

Publiczna wersja zapoznawcza interfejsu API kategorii niestandardowych (standardowa)

Interfejs API kategorii niestandardowych (standardowy) umożliwia tworzenie i trenowanie własnych niestandardowych kategorii zawartości oraz skanowanie tekstu pod kątem dopasowań. Zobacz Kategorie niestandardowe, aby dowiedzieć się więcej.

Maj 2024 r.

Publiczna wersja zapoznawcza interfejsu API kategorii niestandardowych (szybki)

Interfejs API kategorii niestandardowych (szybki) umożliwia szybkie definiowanie pojawiających się szkodliwych wzorców zawartości oraz skanowanie tekstu i obrazów pod kątem dopasowań. Zobacz Kategorie niestandardowe, aby dowiedzieć się więcej.

Marzec 2024 r.

Monitowanie o tarcze w publicznej wersji zapoznawczej

Wcześniej znana jako wykrywanie ryzyka jailbreaku ta zaktualizowana funkcja wykrywa ataki monitowane, w których użytkownicy celowo wykorzystują luki w zabezpieczeniach systemu w celu wywołania nieautoryzowanego zachowania z dużego modelu językowego. Funkcja Prompt Shields analizuje zarówno bezpośrednie ataki monitu użytkownika, jak i ataki pośrednie osadzone w dokumentach wejściowych lub obrazach. Aby dowiedzieć się więcej, zobacz Monituj osłony .

Publiczna wersja zapoznawcza wykrywania naziemności

Interfejs API wykrywania naziemności wykrywa, czy odpowiedzi tekstowe dużych modeli językowych (LLM) są uziemione w materiałach źródłowych dostarczanych przez użytkowników. Ungroundedness opisuje wystąpienia, w których LLMs generują informacje, które nie są faktyczne lub niedokładne zgodnie z tym, co było obecne w materiałach źródłowych. Aby dowiedzieć się więcej, zobacz Wykrywanie naziemności.

Styczeń 2024

Ogólna dostępność zestawu SDK zabezpieczeń zawartości

Usługa Bezpieczeństwa zawartości usługi Azure AI jest teraz ogólnie dostępna za pośrednictwem następujących zestawów SDK biblioteki klienta:

Ważne

Publiczne wersje zapoznawcza zestawów SDK bezpieczeństwa zawartości usługi Azure AI zostaną wycofane do 31 marca 2024 r. Zaktualizuj aplikacje, aby korzystały z wersji ogólnie dostępnej.

Listopad 2023

Ryzyko związane z zabezpieczeniami systemu i wykrywanie chronionych materiałów (wersja zapoznawcza)

Nowe interfejsy API wykrywania ryzyka jailbreaku i chronionego wykrywania materiałów pozwalają ograniczyć niektóre zagrożenia podczas korzystania z generowania sztucznej inteligencji.

  • Wykrywanie ryzyka zabezpieczeń systemu jailbreak skanuje tekst pod kątem ryzyka ataku zabezpieczeń systemu na model dużego języka. Szybki start
  • Wykrywanie tekstu chronionego materiału skanuje tekst wygenerowany przez sztuczną inteligencję pod kątem znanej zawartości tekstowej (na przykład teksty piosenek, artykuły, przepisy, wybrana zawartość internetowa). Szybki start

Ryzyko związane z zabezpieczeniami systemu i wykrywanie chronionych materiałów są dostępne tylko w wybranych regionach. Zobacz Dostępność regionów.

Październik 2023

Bezpieczeństwo zawartości usługi Azure AI jest ogólnie dostępne (GA)

Usługa Azure AI Content Safety jest teraz ogólnie dostępna jako usługa w chmurze.

Zestawy SDK języka Java i JavaScript dotyczące bezpieczeństwa zawartości usługi Azure AI

Usługa Bezpieczeństwa zawartości sztucznej inteligencji platformy Azure jest teraz dostępna za pośrednictwem zestawów SDK java i JavaScript. Zestawy SDK są dostępne odpowiednio w narzędziach Maven i npm . Postępuj zgodnie z przewodnikiem Szybki start , aby rozpocząć pracę.

Lipiec 2023 r.

Azure AI Content Safety C# SDK

Usługa Bezpieczeństwa zawartości usługi Azure AI jest teraz dostępna za pośrednictwem zestawu SDK języka C#. Zestaw SDK jest dostępny w narzędziu NuGet. Postępuj zgodnie z przewodnikiem Szybki start , aby rozpocząć pracę.

Maj 2023

Publiczna wersja zapoznawcza bezpieczeństwa zawartości usługi Azure AI

Bezpieczeństwo zawartości usługi Azure AI wykrywa materiał, który jest potencjalnie obraźliwy, ryzykowny lub w inny sposób niepożądany. Ta usługa oferuje najnowocześniejsze modele tekstu i obrazów, które wykrywają problematyczną zawartość. Bezpieczeństwo zawartości sztucznej inteligencji platformy Azure pomaga zwiększyć bezpieczeństwo aplikacji i usług ze szkodliwej zawartości generowanej przez użytkownika i generowanej przez sztuczną inteligencję. Postępuj zgodnie z przewodnikiem Szybki start , aby rozpocząć pracę.

Aktualizacje usług sztucznej inteligencji platformy Azure

Ogłoszenia dotyczące aktualizacji platformy Azure dla usług Azure AI