Che cos'è il contenuto di Intelligenza artificiale di Azure Cassaforte ty?
Contenuto di intelligenza artificiale di Azure Cassaforte ty rileva contenuti dannosi generati dall'utente e generati dall'intelligenza artificiale nelle applicazioni e nei servizi. Il contenuto di Intelligenza artificiale di Azure Cassaforte ty include API di testo e immagine che consentono di rilevare materiale dannoso. Abbiamo anche un content Cassaforte ty Studio interattivo che consente di visualizzare, esplorare e provare il codice di esempio per rilevare contenuto dannoso in diverse modalità.
Il software di filtro dei contenuti può aiutare l'app a rispettare le normative o a mantenere l'ambiente previsto per gli utenti.
Questa documentazione contiene i tipi di articolo seguenti:
- Le guide introduttive sono istruzioni introduttive che consentono di eseguire richieste al servizio.
- Le guide pratiche contengono istruzioni per l'uso del servizio in modi più specifici o personalizzati.
- I concetti forniscono spiegazioni approfondite delle funzionalità e delle funzionalità del servizio.
Dove è utilizzato
Ecco alcuni scenari in cui uno sviluppatore di software o un team potrebbe aver bisogno di un servizio di moderazione del contenuto:
- Marketplace online che sottopongono a moderazione i cataloghi prodotti e altro contenuto generato dagli utenti.
- Aziende produttrici di giochi che sottopongono a moderazione gli artefatti di gioco generati dagli utenti e le chat room.
- Piattaforme di messaggistica social che moderano immagini e testo aggiunti dagli utenti.
- Grandi aziende nel settore dei media che implementano la moderazione centralizzata del contenuto.
- Provider di soluzioni didattiche per scuola primaria e secondaria che filtrano il contenuto non appropriato per studenti e docenti.
Importante
Non è possibile usare il contenuto di Intelligenza artificiale di Azure Cassaforte ty per rilevare immagini di sfruttamento figlio illegali.
Tipi di prodotto
Esistono diversi tipi di analisi disponibili da questo servizio. La tabella seguente descrive le API attualmente disponibili.
| Type | Funzionalità |
|---|---|
| Analizzare l'API di testo | Analizza il testo per contenuti sessuali, violenza, odio e autolesionismo con livelli di gravità multipla. |
| Analizzare l'API immagine | Analizza immagini per contenuti sessuali, violenza, odio e autolesionismo con livelli di gravità multipla. |
| Prompt Shields (anteprima) | Analizza il testo per individuare il rischio di un attacco di input dell'utente su un modello linguistico di grandi dimensioni. Guida introduttiva |
| Rilevamento della terra (anteprima) | Rileva se le risposte di testo di modelli di linguaggio di grandi dimensioni (LLM) vengono messe a terra nei materiali di origine forniti dagli utenti. Guida introduttiva |
| Rilevamento del testo del materiale protetto (anteprima) | Analizza il testo generato dall'intelligenza artificiale per il contenuto di testo noto (ad esempio, testi di canzoni, articoli, ricette, contenuto Web selezionato). Guida introduttiva |
Content Cassaforte ty Studio
Azure AI Content Cassaforte ty Studio è uno strumento online progettato per gestire contenuti potenzialmente offensivi, rischiosi o indesiderati usando modelli di Machine Learning all'avanguardia modalità tenda ration. Fornisce modelli e flussi di lavoro personalizzati, consentendo agli utenti di scegliere e creare il proprio sistema di con modalità tenda ration. Gli utenti possono caricare il proprio contenuto o provarlo con il contenuto di esempio fornito.
Content Cassaforte ty Studio non solo contiene modelli di intelligenza artificiale predefiniti, ma include anche elenchi di blocchi predefiniti di Microsoft per contrassegnare le espressioni volgari e rimanere aggiornati sulle nuove tendenze. È anche possibile caricare elenchi di blocchi personalizzati per migliorare la copertura dei contenuti dannosi specifici del caso d'uso.
Studio consente anche di configurare un flusso di lavoro di moderazione, in cui è possibile monitorare e migliorare continuamente le prestazioni di con modalità tenda ration. Può aiutarti a soddisfare i requisiti dei contenuti di tutti i tipi di settori come giochi, media, istruzione, e-commerce e altro ancora. Le aziende possono facilmente connettere i propri servizi a Studio e avere la loro con modalità tenda valutata in tempo reale, sia generata dall'utente che dall'intelligenza artificiale.
Tutte queste funzionalità vengono gestite da Studio e dal relativo back-end; i clienti non devono preoccuparsi dello sviluppo di modelli. È possibile eseguire l'onboarding dei dati per la convalida rapida e monitorare gli indicatori KPI di conseguenza, ad esempio metriche tecniche (latenza, accuratezza, richiamo) o metriche aziendali (frequenza dei blocchi, volume di blocchi, proporzioni di categoria, proporzioni del linguaggio e altro ancora). Con semplici operazioni e configurazioni, i clienti possono testare rapidamente diverse soluzioni e trovare la soluzione migliore, invece di dedicare tempo a sperimentare modelli personalizzati o eseguire manualmente la moderazione.
Funzionalità di Content Cassaforte ty Studio
In Content Cassaforte ty Studio sono disponibili le funzionalità del servizio Azure AI Content Cassaforte ty seguenti:
Moderare il contenuto del testo: con lo strumento di moderazione del testo, è possibile eseguire facilmente test sul contenuto di testo. Indipendentemente dal fatto che si voglia testare una singola frase o un intero set di dati, lo strumento offre un'interfaccia intuitiva che consente di valutare i risultati del test direttamente nel portale. È possibile sperimentare diversi livelli di riservatezza per configurare i filtri di contenuto e la gestione dell'elenco di elementi bloccati, assicurandosi che il contenuto sia sempre moderato in base alle specifiche esatte. Inoltre, con la possibilità di esportare il codice, è possibile implementare lo strumento direttamente nell'applicazione, semplificando il flusso di lavoro e risparmiando tempo.
Moderare il contenuto dell'immagine: con lo strumento di moderazione delle immagini, è possibile eseguire facilmente test sulle immagini per assicurarsi che soddisfino gli standard di contenuto. L'interfaccia intuitiva consente di valutare i risultati dei test direttamente nel portale ed è possibile sperimentare diversi livelli di riservatezza per configurare i filtri di contenuto. Dopo aver personalizzato le impostazioni, è possibile esportare facilmente il codice per implementare lo strumento nell'applicazione.
Monitorare l'attività online: la pagina di monitoraggio avanzata consente di tenere traccia facilmente dell'utilizzo e delle tendenze dell'API di moderazione in diverse modalità. Con questa funzionalità è possibile accedere a informazioni dettagliate sulla risposta, tra cui distribuzione di categorie e gravità, latenza, errore e rilevamento dell'elenco di blocchi. Queste informazioni forniscono una panoramica completa delle prestazioni di con modalità tenda ration, consentendo di ottimizzare il flusso di lavoro e assicurarsi che il contenuto sia sempre moderato alle specifiche esatte. Grazie all'interfaccia intuitiva, è possibile spostarsi rapidamente e facilmente nella pagina di monitoraggio per accedere alle informazioni necessarie per prendere decisioni informate sulla strategia di con modalità tenda ration. Sono disponibili gli strumenti necessari per rimanere al di sopra delle prestazioni di con modalità tenda ration e raggiungere gli obiettivi del contenuto.
Requisiti di input
La lunghezza massima predefinita per gli invii di testo è di 10.000 caratteri. Se è necessario analizzare blocchi di testo più lunghi, è possibile suddividere il testo di input (ad esempio, tramite punteggiatura o spaziatura) tra più invii correlati.
La dimensione massima per gli invii di immagini è di 4 MB e le dimensioni dell'immagine devono essere comprese tra 50 x 50 pixel e 2.048 x 2.048 pixel. Le immagini possono essere in formati JPEG, PNG, GIF, BMP, TIFF o WEBP.
Sicurezza
Usare Microsoft Entra ID o identità gestita per gestire l'accesso
Per una maggiore sicurezza, è possibile usare Microsoft Entra ID o identità gestita (MI) per gestire l'accesso alle risorse.
- L'identità gestita viene abilitata automaticamente quando si crea una risorsa Content Cassaforte ty.
- Microsoft Entra ID è supportato sia negli scenari API che SDK. Fare riferimento alle linee guida generali per i servizi di intelligenza artificiale di Autenticazione con Microsoft Entra ID. È anche possibile concedere l'accesso ad altri utenti all'interno dell'organizzazione assegnando loro i ruoli utenti e lettore di Servizi cognitivi. Per altre informazioni sulla concessione dell'accesso utente alle risorse di Azure tramite il portale di Azure, vedere la guida al controllo degli accessi in base al ruolo.
Crittografia dei dati inattivi
Informazioni su come il contenuto di Intelligenza artificiale di Azure Cassaforte ty gestisce la crittografia e la decrittografia dei dati. Le chiavi gestite dal cliente (CMK), note anche come BYOK (Bring Your Own Key), offrono maggiore flessibilità per creare, ruotare, disabilitare e revocare i controlli di accesso. È anche possibile controllare le chiavi di crittografia usate per proteggere i dati.
Prezzi
Attualmente, Il contenuto di Intelligenza artificiale di Azure Cassaforte ty ha un piano tariffario F0 e S0.
Limiti del servizio
Supporto di versioni in lingue diverse
I modelli Cassaforte ty sono stati sottoposti a training e test specifici nelle lingue seguenti: inglese, tedesco, giapponese, spagnolo, francese, italiano, portoghese e cinese. Tuttavia, il servizio può funzionare in molte altre lingue, ma la qualità potrebbe variare. In tutti i casi, è necessario eseguire test personalizzati per assicurarsi che funzioni per l'applicazione.
Per altre informazioni, vedere Supporto linguistico.
Area geografica/località
Per usare le API Content Cassaforte ty, è necessario creare la risorsa Content Cassaforte ty di Azure per intelligenza artificiale nelle aree supportate. Attualmente, è disponibile nelle aree di Azure seguenti:
- Australia orientale
- Canada orientale
- Stati Uniti centrali
- Stati Uniti orientali
- Stati Uniti orientali 2
- Francia centrale
- Giappone orientale
- Stati Uniti centro-settentrionali
- Stati Uniti centro-meridionali
- Svizzera settentrionale
- Regno Unito meridionale
- Europa occidentale
- West US 2
- Svezia centrale
Le funzionalità di anteprima pubblica, ad esempio Prompt Shields e il rilevamento dei materiali protetti, sono disponibili nelle aree di Azure seguenti:
- Stati Uniti orientali
- Europa occidentale
È possibile contattare Microsoft se sono necessarie altre aree per l'azienda.
Frequenze query
| Piano tariffario | Richieste per 10 secondi (RPS) |
|---|---|
| F0 | 1000 |
| S0 | 1000 |
Se hai bisogno di una tariffa più veloce, contattaci per richiedere.
Contatti
Se ci si blocca, inviare un messaggio di posta elettronica o usare il widget feedback in alto a destra di qualsiasi pagina della documentazione.
Passaggi successivi
Seguire una guida introduttiva per iniziare a usare Il contenuto di Intelligenza artificiale di Azure Cassaforte ty nell'applicazione.