Novità di Sicurezza dei contenuti di Azure AI
Ecco cosa c'è di nuovo nel servizio. Le novità possono essere note sulla versione, video, post di blog e altri tipi di informazioni. Assegnare un segnalibro a questa pagina per rimanere aggiornati con nuove funzionalità, miglioramenti, correzioni e aggiornamenti della documentazione.
Settembre 2024
Analisi multimodale (anteprima)
L'API multimodale analizza i materiali contenenti immagini e testo per migliorare la protezione di applicazioni e servizi da contenuti dannosi generati da utenti o dall'intelligenza artificiale. L'analisi di un'immagine e il relativo contenuto di testo associato possono salvaguardare il contesto e fornire una comprensione più completa dei contenuti. Per iniziare, seguire una le istruzioni della guida di avvio rapido.
Rilevamento di materiale protetto per il codice (anteprima)
L'API Codice materiale protetto contrassegna il contenuto del codice protetto (da repository GitHub noti, tra cui librerie software, codice sorgente, algoritmi e altri contenuti di programmazione proprietari) che potrebbe essere restituito da modelli linguistici di grandi dimensioni (LLM). Per iniziare, seguire una le istruzioni della guida di avvio rapido.
Attenzione
Lo scanner/indicizzatore di codice del servizio Sicurezza dei contenuti è aggiornato al 6 novembre 2021. Il codice aggiunto a GitHub dopo questa data non verrà rilevato. Usare la propria discrezione quando si usa Materiale protetto per codice per rilevare i corpi di codice recenti.
Correzione della fondatezza (anteprima)
L'API di rilevamento della fondatezza include una funzionalità di correzione che corregge automaticamente eventuali mancanze di fondatezza rilevate nel testo in base alle origini di fondatezza fornite. Quando la funzionalità di correzione è abilitata, la risposta include un campo corrected Text che presenta il testo corretto allineato alle origini di fondatezza. Per iniziare, seguire una le istruzioni della guida di avvio rapido.
Agosto 2024
Le nuove funzionalità sono disponibili a livello generale
L'API Prompt Shields e l'API di rilevamento della fondatezza ora sono in disponibilità generale. Segui una guida rapida per provarle.
2024 luglio 2022
Anteprima pubblica dell'API delle categorie personalizzate (standard)
L'API delle categorie personalizzate (standard) consente di creare ed eseguire il training di categorie di contenuto personalizzate e di analizzare il testo per individuare le corrispondenze. Per altre informazioni, vedere Categorie personalizzate.
Maggio 2024
Anteprima pubblica dell'API delle categorie personalizzate (rapido)
L'API delle categorie personalizzate (rapida) consente di definire rapidamente modelli di contenuto dannoso emergenti e analizzare testo e immagini per individuare le corrispondenze. Per altre informazioni, vedere Categorie personalizzate.
Marzo 2024
Anteprima pubblica di Prompt Shields
Nota in precedenza come Rilevamento del rischio di jailbreak, questa funzionalità aggiornata rileva gli attacchi prompt in cui gli utenti sfruttano volutamente le vulnerabilità del sistema per sollecitare comportamenti non autorizzati da un modello linguistico di grandi dimensioni. Prompt Shields analizza sia gli attacchi diretti degli utenti che quelli indiretti incorporati nei documenti o nelle immagini di input. Per altre informazioni, vedere Prompt Shields.
Anteprima pubblica di Rilevamento della fondatezza
L’API di Rilevamento della fondatezza rileva se le risposte testuali dei modelli linguistici di grandi dimensioni (LLM) sono fondate sui materiali di origine forniti dagli utenti. L'espressione "non fondatezza" si riferisce a istanze in cui i modelli linguistici di grandi dimensioni producono informazioni non concrete o imprecise rispetto a ciò che era presente nei materiali di origine. Per altre informazioni, vedere Rilevamento della fondatezza.
Gennaio 2024
SDK di Sicurezza dei contenuti disponibile a livello generale
Il servizio Sicurezza dei contenuti di Azure AI è ora disponibile a livello generale tramite gli SDK della libreria client seguenti:
- C#: Pacchetto | Riferimento API | Esempi | Guide introduttive: Testo, Immagine
- Python: Pacchetto | Riferimento API | Esempi | Guide introduttive: Testo, Immagine
- Java: Pacchetto | Riferimento API | Esempi | Guide introduttive: Testo, Immagine
- JavaScript: Pacchetto | Riferimento API | Esempi | Guide introduttive: Testo, Immagine
Importante
Le versioni di anteprima pubblica degli SDK di Sicurezza dei contenuti di Azure AI verranno deprecate entro il 31 marzo 2024. Aggiornare le applicazioni in modo che usino le versioni disponibili a livello generale.
Novembre 2023
Rilevamento del rischio di jailbreak e Rilevamento di materiale protetto (anteprima)
Le nuove API di Rilevamento del rischio di jailbreak e di Rilevamento di materiale protetto consentono di attenuare alcuni dei rischi che possono verificarsi durante l'uso dell'intelligenza artificiale generativa.
- Rilevamento del rischio di jailbreak analizza il testo per individuare il rischio di un attacco di jailbreak in un modello linguistico di grandi dimensioni. Guida introduttiva
- Il rilevamento di testo dl materiale protetto analizza il testo generato dall'intelligenza artificiale per individuare contenuti di testi noti (ad esempio, testi di canzoni, articoli, ricette, contenuto Web selezionato). Guida introduttiva
Rilevamento del rischio di jailbreak e Rilevamento di materiale protetto sono disponibili solo in aree selezionate. Vedere Disponibilità a livello di area.
Ottobre 2023
Sicurezza dei contenuti di Azure AI è disponibile a livello generale
Il servizio Sicurezza dei contenuti di Azure AI è ora disponibile a livello generale come servizio cloud.
- Il servizio è disponibile in molte altre aree di Azure. Per un elenco, vedere Panoramica.
- I formati restituiti delle API di Analizza sono stati modificati. Per gli esempi più recenti, vedere le guide introduttive.
- I nomi e i formati restituiti da diverse API sono stati modificati. Per un elenco completo delle modifiche che causano un'interruzione, vedere la Guida alla migrazione. Altre guide e le guide introduttive ora riflettono la versione disponibile a livello generale.
SDK di Sicurezza dei contenuti di Azure AI per Java e JavaScript
Il servizio Sicurezza dei contenuti di Azure AI è ora disponibile tramite SDK per Java e JavaScript. Gli SDK sono disponibili rispettivamente in Maven e npm. Per iniziare, seguire una guida di avvio rapido.
Luglio 2023
SDK C# di Sicurezza dei contenuti di Azure AI
Il servizio Sicurezza dei contenuti di Azure AI è ora disponibile tramite un SDK per C#. L'SDK è disponibile in NuGet.org. Per iniziare, seguire una guida di avvio rapido.
Maggio 2023
Anteprima pubblica di Sicurezza dei contenuti di Azure AI
Sicurezza dei contenuti di Azure AI rileva materiale potenzialmente offensivo, rischioso o altrimenti indesiderato. Questo servizio offre modelli di testo e immagini all'avanguardia che rilevano contenuti problematici. Sicurezza dei contenuti di Azure AI contribuisce a rendere le applicazioni e i servizi più sicuri proteggendoli da contenuti dannosi generati dagli utenti e dall'intelligenza artificiale. Per iniziare, seguire una guida di avvio rapido.