Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
[Questo articolo è una documentazione preliminare soggetta a modifiche].
Importante
- L'accesso ad Autopilot (Frontier) richiede la registrazione applicabile al programma di anteprima Frontier, l'assegnazione in anteprima e le condizioni di partecipazione applicabili. La registrazione a Frontier da sola non abilita ogni funzionalità di anteprima. Le anteprime Frontier sono soggette alle condizioni di anteprima applicabili dei contratti del cliente e le relative funzionalità e disponibilità possono cambiare.
- Questa funzionalità è in versione di anteprima.
- Le funzionalità di anteprima potrebbero avere funzionalità limitate e potrebbero non essere rilasciate per la disponibilità generale. Queste funzionalità sono disponibili prima del rilascio ufficiale in modo che i clienti possano ottenere un accesso anticipato e fornire feedback.
- Per altre informazioni, vedere le Condizioni per il prodotto Microsoft.
Che cos'è una scheda applicazione o piattaforma?
Le schede microsoft per applicazioni e piattaforme sono progettate per aiutarti a comprendere come funziona la nostra tecnologia di intelligenza artificiale, le scelte che i proprietari delle applicazioni possono fare che influenzano le prestazioni e il comportamento dell'applicazione e l'importanza di considerare l'intera applicazione, inclusa la tecnologia, le persone e l'ambiente. Le schede applicazione vengono create per le applicazioni di intelligenza artificiale e le schede della piattaforma vengono create per i servizi della piattaforma di intelligenza artificiale. Queste risorse possono supportare lo sviluppo o la distribuzione di applicazioni personalizzate e possono essere condivise con utenti o stakeholder interessati.
Come parte del suo impegno per l'IA responsabile, Microsoft rispetta sei principi fondamentali: equità, affidabilità e sicurezza, privacy e sicurezza, inclusività, trasparenza e responsabilità. Lo Standard e le risorse per l'IA responsabile guidano i team nella progettazione, nello sviluppo e nel test delle applicazioni di intelligenza artificiale. Le schede delle applicazioni e della piattaforma offrono trasparenza in termini di funzionalità, usi previsti e limitazioni. Vedere anche il codice di comportamento Microsoft Enterprise AI Services.
Overview
Autopilot è un agente basato sul cloud sempre attivo in Microsoft Copilot. Descrivere il risultato desiderato, le origini da usare e i limiti. Può preparare il lavoro modificabile, esaminare le conversazioni accessibili, seguire gli impegni ed eseguire le automazione pianificate. L'identità, la memoria, il computer e l'area di lavoro supportano la continuità oltre una singola conversazione.
Autopilot è progettato per gli information worker che delegano il lavoro in Microsoft 365. Alcune operazioni usano la propria identità dedicata; altri usano l'accesso autorizzato per conto dell'utente. L'account attivo, la risorsa, l'azione e i criteri determinano l'accesso. Prima di un'azione che invia, condivide, elimina o modifica qualcosa, un controllo automatizzato decide se può essere eseguito o richiede l'approvazione.
Autopilot rimane un'anteprima. L'operazione in background non garantisce l'esecuzione ininterrotta, il richiamo completo o il completamento entro un determinato periodo di tempo. Per le funzionalità e la disponibilità, vedere la panoramica di Autopilot e i requisiti.
Termini importanti
L'elenco seguente fornisce un glossario dei termini chiave correlati a Autopilot.
| Termine | Description |
|---|---|
| Approvazione dell'azione | Scheda di approvazione che chiede al proprietario di Consenti o Nega una o più azioni. Consenti esegue le azioni sulla scheda una sola volta. |
| Assistente agentico | Assistente basato sull'intelligenza artificiale che pianifica e svolge attività in più passaggi per conto di una persona, in base alle istruzioni del linguaggio naturale e all'accesso ai dati che quella persona è autorizzata a usare. |
| Activity | Visualizzazione del lavoro rivolta all'utente, inclusi elementi in esecuzione, richieste di giudizio e risultati. Non è una garanzia di un record di controllo amministrativo completo. |
| Memory | Informazioni sulla conversazione, personali e sull'area di lavoro che Autopilot conserva e applica al lavoro futuro. È possibile esaminarla in Rivedi cosa sa [nome] nel pannello Autopilot o chiedere informazioni su di esso in una conversazione. |
| Authorization | Autorizzazione per una determinata azione o ambito di lavoro, soggetta all'accesso alle risorse e ai criteri dell'organizzazione. |
| Automation | Lavoro eseguito in base a una pianificazione con istruzioni, identità, destinazioni e autorizzazioni salvate. |
| Competenza | Istruzioni per un tipo di attività, usate con gli strumenti e le autorizzazioni disponibili. |
| Plug-in | Un pacchetto di funzionalità o connessioni che possono includere abilità. Una voce del catalogo non stabilisce l'installazione o l'autorizzazione. |
| Workspace | Un ambiente di lavoro cloud in grado di mantenere il contesto tra le sessioni; è separato dal dispositivo locale e dalla destinazione del risultato finale pubblicato. Autopilot non può accedere a cartelle o app locali. |
| Identità del posto di lavoro | Nome, avatar e indirizzo di posta elettronica usato da Autopilot in modo che i colleghi possano riconoscere il suo lavoro in Copilot, Teams e Outlook. |
Funzionalità o funzionalità principali
Le funzionalità e le capacità principali descritte di seguito descrivono le operazioni che Autopilot è progettato per eseguire e come funziona nelle attività supportate.
- Funziona in tutto Microsoft 365: Autopilot usa Teams, Outlook, OneDrive e informazioni autorizzate di SharePoint tramite gli strumenti disponibili.
- Prepara contenuti modificabili: Autopilot può elaborare messaggi, documenti, presentazioni e analisi. Specifichi se deve produrre una bozza, salvare un file, condividerlo o inviare un messaggio.
- Autorizzazione delle azioni: Autopilot può completare le attività senza chiedere a ogni passaggio. Un sistema di revisione automatizzato esamina ogni azione che invia, condivide, elimina o modifica il contenuto o crea o modifica un'automazione. Le azioni che corrispondono alla richiesta del proprietario vengono eseguite; le altre mostrano una scheda di approvazione. I pagamenti e i passaggi sensibili del browser richiedono sempre l'approvazione.
- Esegue operazioni ricorrenti tramite automazione: Autopilot usa una pianificazione e istruzioni salvate complete. I criteri di monitoraggio non abilitano di per sé ogni evento o segnale di lavoro come trigger.
- Collabora con i colleghi per il proprietario: a richiesta del proprietario, Autopilot può inviare messaggi ai colleghi in Teams, seguire gli impegni e pianificare le riunioni, con l'approvazione.
- Identità aziendale: Autopilot ha il proprio nome, avatar e indirizzo di posta elettronica e viene visualizzato insieme a te in Copilot, Teams e Outlook in modo che i colleghi possano comunicare il proprio lavoro a parte i tuoi.
- Attività: esaminare il lavoro in corso, le richieste di approvazione e i risultati, quindi verificare gli effetti esterni nelle destinazioni corrispondenti.
- Memoria: le preferenze e le decisioni salvate aiutano con la continuità. Gli utenti possono rivedere, correggere e rimuovere memorie nel pannello di Autopilot o facendone richiesta in chat. La memoria non può essere disattivata in questa versione. La memoria non equivale a un ricordo completo né autorizza ad accedere ai dati.
- Abilità e plugin: aggiungi plugin da Plugin, crea o carica abilità e condividile con persone selezionate della tua organizzazione. Un criterio può bloccare un plugin e la condivisione di una competenza non comporta la condivisione di credenziali o autorizzazioni.
- Uso del browser: se abilitato, Autopilot può lavorare in Microsoft Edge nel dispositivo del proprietario per le richieste effettuate dal proprietario nella conversazione privata. Richiede l'approvazione prima delle azioni sensibili e il contenuto della pagina che legge viene elaborato dal modello cloud.
- Crediti: Autopilot viene fatturato in base all'utilizzo in Copilot Crediti tramite un criterio di spesa configurato da un amministratore. Se un utente non è coperto o il criterio raggiunge il limite, Autopilot interrompe l'esecuzione di automazione, monitoraggio e nuove richieste di esecuzione.
- Riconoscimento delle etichette di riservatezza: Autopilot può riconoscere le etichette nel contenuto supportato. Il contenuto etichettato non è escluso da ciò che Autopilot può leggere e il riconoscimento non stabilisce l'ereditarietà delle etichette o la copertura della prevenzione della perdita dei dati.
- Accesso mobile: gli utenti possono usare Autopilot in iOS e Android tramite le app Microsoft 365 Copilot, Microsoft Teams e Microsoft Outlook.
In qualità di assistente di IA agentica, Autopilot presenta le caratteristiche seguenti:
- Pianificazione: Autopilot può suddividere una richiesta in linguaggio naturale in passaggi e usare le funzionalità disponibili per l'attività.
- Adattabilità: è possibile inviare istruzioni successive per richiedere una modifica. Controllare il lavoro risultante anziché presumere che un'azione già in corso sia stata modificata o arrestata.
- Memoria: contesto salvato sull'utente e il relativo lavoro supporta il lavoro successivo.
- Estendibilità: le competenze e i plug-in forniscono indicazioni per le attività e connessioni, se abilitati, senza concedere di per sé l'accesso a dati aggiuntivi. Per altre informazioni, vedere la documentazione dei plug-in.
Usi previsti
Autopilot può essere usato in più scenari per gli information worker che usano Microsoft 365 e vogliono delegare il lavoro in più passaggi. Alcuni esempi di casi d'uso includono:
- Briefing giornalieri e smistamento: configurare un briefing programmato da origini di calendario, posta elettronica e Teams specificate, accessibili con una destinazione di recapito prevista.
- Redazione e comunicazione: Autopilot crea bozze di messaggi, documenti, fogli di calcolo e presentazioni per la revisione, ad esempio la trasformazione delle note sulla preparazione del lancio e le metriche settimanali in un aggiornamento del progetto a una pagina.
- Gestione degli impegni e delle scadenze: richiedere un controllo ricorrente per le decisioni non risolte e le bozze di follow-up.
- Monitoraggio e avviso: specificare origini, frequenza di controllo e criteri per modifiche o rischi in un'automazione. Il monitoraggio non è una garanzia di rilevamento immediato.
- Reporting ricorrente: Autopilot esegue automazione in base a una pianificazione per riconciliare le metriche settimanali, il riepilogo dei commenti dei clienti o produrre un riepilogo dello stato ricorrente.
- Follow-through tra applicazioni: Autopilot completa il lavoro che si estende su diverse app Microsoft 365 in una conversazione, ad esempio la ricerca di lavoro correlato, la preparazione di un documento e la stesura di un messaggio per condividerlo.
Ambito agente: Una richiesta o un'automazione descrive un risultato previsto, ma non autorizza ogni azione o connette ogni segnale di lavoro. Le azioni che altri utenti possono visualizzare richiedono l'approvazione, sia all'avvio del lavoro che quando si presenta l'azione. Esaminare le identità, le autorizzazioni, i destinatari e le destinazioni usate dalle attività e dalle automazione. Né la funzionalità @Copilot di Teams né gli agenti software paralleli in altre esperienze di Copilot offrono la stessa funzionalità in Autopilot.
Autopilot non è destinato ai casi d'uso che richiedono un'accuratezza garantita senza revisione umana. Gli esempi includono atti legali, decisioni mediche o transazioni finanziarie che aggirano i processi di approvazione.
Modelli e dati di training
Autopilot usa i modelli di intelligenza artificiale per interpretare le richieste ed eseguire il lavoro. Viene eseguito su GPT-6.1 Sol, fornito da OpenAI che opera come subprocessore di Microsoft. Se un amministratore disattiva OpenAI nei provider di intelligenza artificiale che operano come sub-responsabili del trattamento Microsoft, Autopilot usa invece GPT-5.6 Sol ospitato in Azure OpenAI. Gli utenti non possono cambiare i modelli tramite un prompt e non esiste un controllo di selezione del modello separato per Autopilot. Il sistema di revisione automatizzato usa un modello di intelligenza artificiale separato per esaminare le azioni. Per indicazioni sull'amministratore, vedere Rivedere la governance del modello.
Microsoft Copilot indicazioni sulla privacy indica che i messaggi, le risposte e i dati aziendali a cui si accede tramite i servizi di Microsoft 365 non vengono usati per eseguire il training dei modelli di base. Esaminare i dati, la privacy e la sicurezza per Microsoft Copilot insieme ai termini per i modelli abilitati per l'organizzazione.
Quando OpenAI è attivato, i prompt e i dati correlati vengono elaborati da OpenAI come sottoprocessore Microsoft. Le località di elaborazione e gli impegni applicabili possono differire dal modello ospitato Azure OpenAI. Gli amministratori devono verificare che l'accordo soddisfi i requisiti di residenza dei dati e del Confine dei dati dell'UE. Per altre informazioni, vedere OpenAI come subprocessore in Microsoft Online Services.
Performance
La valutazione delle prestazioni è incentrata sul fatto che Autopilot completi il lavoro in più passaggi richiesto e se l'output soddisfi le tue intenzioni. I risultati dipendono dall'attività, dall'accesso, dagli strumenti, dal modello e dalla configurazione esaminati.
Modalità supportate
- Input: Testo in linguaggio naturale e contesto supportato fornito o recuperato tramite strumenti autorizzati.
- Output: Testo, bozza di messaggi, documenti, presentazioni, analisi e risultati di automazione, se supportati. Le destinazioni di output dipendono dall'attività e dalle funzionalità disponibili.
Come Autopilot elabora le richieste
- Autopilot riceve un'istruzione in linguaggio naturale dall'utente.
- Autopilot pianifica i passaggi necessari per completare la richiesta, basandosi sui tuoi contenuti di Microsoft 365 e sulle competenze necessarie.
- Autopilot tenta di eseguire i passaggi usando gli strumenti disponibili. Può porre domande quando sono necessarie ulteriori informazioni; e chiarire istruzioni ambigue prima di autorizzare un'azione consequenziale.
- Autopilot applica le autorizzazioni e i criteri dell'azione. Il sistema di revisione automatizzato confronta l'azione con la richiesta e ne consente l'esecuzione oppure chiede la tua approvazione.
- Autopilot segnala il risultato o la limitazione. Verificare il file salvato, il messaggio inviato o l'evento del calendario nella destinazione e distinguere l'esecuzione dal recapito.
Condizioni per un funzionamento affidabile
- Autopilot offre prestazioni ottimali quando le istruzioni sono chiare e specifiche, inclusi i dettagli sul risultato desiderato, i destinatari e la formattazione.
- Autopilot viene eseguito nel cloud e dipende dalle app Microsoft 365 e dai servizi connessi disponibili.
- L'account che esegue l'operazione deve essere autorizzato per la risorsa e l'operazione richieste; un'identità dell'agente dedicata non aggira tali controlli.
- Le prestazioni potrebbero peggiorare per operazioni complesse e in più passaggi con molte interdipendenze.
Funzionalità multilingue
Il supporto linguistico può variare con l'anteprima, il modello e il servizio connesso. Autopilot è ottimizzato per l'inglese. Un'interfaccia tradotta non stabilisce che ogni lingua sia stata valutata per le stesse attività. Verificare la configurazione supportata prima di usarla per un flusso di lavoro sensibile alla lingua.
Limitations
Comprendere le limitazioni di Autopilot è fondamentale per determinare se viene usato entro limiti sicuri ed efficaci. Anche se incoraggiamo i clienti a usare Autopilot nel loro lavoro, è importante notare che Autopilot non è stato progettato per ogni possibile scenario. Si consiglia agli utenti di fare riferimento al codice di comportamento di Microsoft Enterprise AI Services (per le organizzazioni) o alla sezione Codice di comportamento nella Contratto di Servizi Microsoft (per utenti singoli), nonché alle considerazioni seguenti quando si sceglie un caso d'uso:
- Interpretazione dell'istruzione: Autopilot potrebbe interpretare in modo non corretto le istruzioni ambigue o eccessivamente generali, causando un funzionamento che non corrisponde alla finalità. Ad esempio, una richiesta di pulizia dei file di progetto precedenti potrebbe influire su più contenuto del previsto. Fornisci richieste chiare e specifiche e verifica esattamente quali file, dati, persone e comunicazioni sono coinvolti in un'azione prima di approvarla.
- Accuratezza del contenuto: considera documenti, messaggi e altri contenuti generati dall'intelligenza artificiale come bozze. Esaminare sempre il contenuto prima di approvare azioni che lo inviano, lo condividono o lo utilizzano. Autopilot potrebbe produrre informazioni imprecise, in particolare quando i dati di origine a cui attinge sono incompleti o obsoleti.
- Complessità delle attività: operazioni complesse e in più passaggi con molte dipendenze potrebbero non essere sempre completate come previsto. Monitora lo stato di avanzamento e sospendi o regola un'attività quando necessario.
- Limiti di autorizzazione: l'account autorizzato, la risorsa, l'azione e il contesto della conversazione determinano l'accesso. Le istruzioni di memoria e competenza non concedono l'autorizzazione. Autopilot non espande i dati a cui un utente può accedere.
- Controlli di approvazione automatizzati: il sistema di revisione automatizzato non può visualizzare tutti gli elementi che Autopilot conosce e può commettere errori. Un'azione che ritiene corrispondere alla tua richiesta viene eseguita senza una scheda di approvazione. Effettua richieste specifiche, stabilisci dei limiti, ad esempio "non inviarlo ancora", ed esamina i risultati. Consenti su una scheda di approvazione esegue queste azioni una sola volta; non autorizza azioni simili o non correlate in un secondo momento.
- Dispositivo locale e browser: Autopilot non può accedere a cartelle o app locali. Se l'uso del browser è abilitato, il contenuto della pagina letto da Autopilot in Microsoft Edge, incluso il contenuto dai siti connessi, viene inviato al modello cloud. I criteri e le regole del sito possono comunque bloccare le azioni del browser.
- Le automazioni vengono eseguite con autorità salvata: esaminare le istruzioni complete, la pianificazione, le identità, i destinatari e le destinazioni. Il lavoro pianificato non eredita tutte le autorità dalla conversazione di creazione.
- Differenze tra modelli e provider: i percorsi di elaborazione e gli impegni di conformità dipendono dal fatto che OpenAI o il modello ospitato Azure OpenAI elabori la richiesta. Le protezioni generiche di Copilot non sono la prova di una copertura identica per ogni configurazione del modello o strumento.
- Etichette di riservatezza: i file e i messaggi di posta elettronica etichettati non vengono esclusi da ciò che Autopilot può leggere. Il contenuto generato o modificato potrebbe non ereditare o applicare automaticamente le etichette di origine. Applicare etichette e controlli appropriati prima di condividere o archiviare il contenuto.
- Prevenzione della perdita dei dati: la prevenzione della perdita dei dati per le richieste è limitata durante l'anteprima e una richiesta bloccata può visualizzare un errore generico. Non presupporre un'applicazione uniforme di Microsoft Purview DLP in tutti gli strumenti e le destinazioni.
- Copertura della conformità: eDiscovery, conservazione e blocco legale non coprono le conversazioni di Autopilot e Autopilot non viene visualizzato in Gestione del comportamento di sicurezza dei dati per l'intelligenza artificiale. Le letture per conto del proprietario vengono sottoposte ad audit con l'account del proprietario. Le autorizzazioni e la crittografia sono i controlli che impediscono in modo affidabile ad Autopilot di accedere ai contenuti.
- Archiviazione e richiamo: il contesto di lavoro, la cronologia delle conversazioni, la memoria salvata e i file esportati sono record diversi. L'eliminazione di una conversazione non rimuove i ricordi salvati e una conversazione eliminata rimane archiviata fino a quando l'utente chiede a Autopilot di rimuoverlo definitivamente. Le esportazioni sono istantanee e potrebbero non contenere le etichette di riservatezza originali. Gli utenti possono scaricare una copia completa dei ricordi e delle sessioni e per una richiesta di conformità o privacy approvata, un amministratore tenant può esportare una copia dei ricordi e delle sessioni di un utente. Un file dell'area di lavoro non è necessariamente un deliverable pubblicato e accessibile.
- Visibilità dei messaggi: tutti gli utenti in una chat di Teams possono visualizzare i messaggi inviati da Autopilot. Esaminare i destinatari prima di consentire l'invio del messaggio.
- Risultati incompleti o incerti: una richiesta di arresto non dimostra l'annullamento o il rollback. Un'approvazione non è una prova dell'esecuzione e un passaggio di lavoro riuscito non è una prova del recapito.
- Pregiudizi, stereotipi e contenuti infondati: nonostante i controlli responsabili dell'intelligenza artificiale, i contenuti generati dall'intelligenza artificiale possono comunque riflettere pregiudizi, stereotipi o informazioni infondate. Esaminare sempre le risposte e le azioni prima di approvarle.
- Decisioni ad alto impatto: non usare Autopilot per prendere o automatizzare decisioni con conseguenze legali, mediche, finanziarie, educative, lavorative, abitative o assicurative. Una persona qualificata deve prendere queste decisioni.
- Lingua: Autopilot è ottimizzato per l'inglese. La disponibilità può essere limitata in base all'area geografica e alla lingua.
Evaluations
Le valutazioni delle prestazioni e della sicurezza esaminano il completamento delle attività, la qualità della risposta e i rischi di contenuti dannosi o azioni non autorizzate. Le aree seguenti descrivono la copertura della valutazione e i risultati desiderati, non una certificazione pubblicata o una garanzia che ogni configurazione di anteprima abbia superato ogni scenario.
Valutazioni di prestazioni e qualità
Le aree di valutazione delle prestazioni e della qualità includono:
- Completamento dell'attività: indica se Autopilot esegue correttamente il lavoro richiesto in più passaggi.
- Coerenza: se l'output di Autopilot è strutturato e coerente in modo logico.
- Qualità della risposta: indica se l'output soddisfa la finalità dell'utente in base all'istruzione del linguaggio naturale.
Metodi di valutazione delle prestazioni e della qualità
Autopilot viene valutato usando scenari basati su testo che riflettono il funzionamento delle persone tra le app Microsoft 365, tra cui l'esecuzione di attività in più passaggi, la creazione di documenti, la stesura di messaggi, la pianificazione e gli scenari aziendali rappresentativi. Gli analizzatori valutano se le azioni richieste sono state eseguite correttamente, se le risposte sono state effettivamente supportate dal contenuto dell'utente e se gli output erano coerenti tra le variazioni della stessa attività. I risultati ideali riflettono il completamento accurato delle attività e le prestazioni coerenti; i risultati non ottimali includono destinatari non corretti, attestazioni non supportate nel contenuto generato o lavoro incompleto.
Valutazioni personalizzate
Oltre alle valutazioni di qualità, il framework di valutazione di Autopilot include casi basati su scenari per aree di sicurezza come contenuti dannosi, privacy e divulgazione di informazioni, resistenza alla prompt injection e autorizzazione delle azioni. Questi casi verificano se le approvazioni e i limiti di autorizzazione necessari sono contenuti, se l'agente resiste alle istruzioni nascoste nel contenuto esterno e se evita la divulgazione non autorizzata. I risultati ideali completano il lavoro legittimo all'interno dell'ambito autorizzato; i risultati non ottimali includono l'esecuzione di un'istruzione inserita, l'azione senza l'autorità necessaria o la produzione di contenuto dannoso. La copertura di uno scenario non stabilisce che ogni configurazione di anteprima abbia superato tale scenario.
Valutazioni dei rischi e della sicurezza
Le aree di valutazione dei rischi e della sicurezza includono contenuto dannoso e tentativi di manipolare l'agente. La copertura può includere:
- Odio e ingiustizia
- Contenuto sessuale
- Violenza
- Autolesionismo
- Materiale protetto
- Resistenza alla prompt injection (istruzioni nascoste nel contenuto esterno)
- Esecuzione di azioni non autorizzate o non approvate
- Perdita di informazioni
Metodi di valutazione dei rischi e della sicurezza
Le valutazioni di rischio e sicurezza usano scenari antagonisti e assegnazione dei punteggi per valutare potenziali danni. Le valutazioni delle azioni verificano destinatari non previsti, mancanza dell'autorizzazione richiesta, bypass delle autorizzazioni e istruzioni nascoste in posta elettronica, file o contenuto Web. Un risultato auspicabile rifiuta o reindirizza il lavoro non autorizzato consentendo azioni legittime e autorizzate. I risultati dei test sono vincolati dai case, dalle fixture, dal modello e dalla configurazione esaminati; non sono una garanzia del comportamento di produzione o di una certificazione di conformità. Questa scheda non pubblica un tasso di superamento quantitativo.
Componenti di sicurezza e mitigazioni
Così come abbiamo identificato i potenziali rischi e l'uso improprio attraverso processi come i test del team rosso e li abbiamo misurati, abbiamo sviluppato misure di prevenzione per ridurre il potenziale di danno. L'elenco seguente descrive alcune di queste misure di prevenzione. Continuiamo a valutare Autopilot per migliorare le prestazioni del prodotto e le misure di mitigazione.
- Autorizzazione dell'azione. Un secondo modello di intelligenza artificiale esamina le azioni rispetto alla richiesta del proprietario prima dell'esecuzione. Le azioni che non rientrano in modo chiaro o che non può controllare attendono l'approvazione del proprietario. I pagamenti e i passaggi sensibili del browser richiedono sempre l'approvazione. Ogni scheda di approvazione indica il motivo per cui è apparso e contrassegna i destinatari esterni all'organizzazione come esterno.
- Limiti delle autorizzazioni. I controlli di accesso si applicano all'identità agente, alla risorsa e all'operazione. L'aggiunta di una skill o di un plug-in non espande tali autorizzazioni.
- Autorità con ambito definito. Le attività, le conversazioni e il lavoro ricorrente possono avere ambiti di autorizzazione diversi. Non presupporre che tale autorità in un contesto si applichi a un'altra.
- Protezione dalle istruzioni nel contenuto esterno. Solo i messaggi del proprietario vengono conteggiati come richieste, quindi le istruzioni nascoste nei messaggi di posta elettronica, nei file o nelle pagine Web, note come inserimento di richieste, non autorizzano un'azione. Le mitigazioni riducono questo rischio, ma non lo eliminano; esaminare le azioni richieste.
- Sicurezza dei contenuti. I controlli di sicurezza mirano a ridurre l'output dannoso. Non eliminano la necessità di esaminare il contenuto o verificare le azioni.
- Radicamento nei dati dell'organizzazione. Le fonti Microsoft 365 autorizzate forniscono il contesto per l'attività. Il grounding non garantisce un output accurato; verificare le informazioni fattuali rispetto alle loro fonti.
- Visibilità dello stato di avanzamento. Conversazioni e attività consentono di esaminare il lavoro e le richieste di approvazione. Non sono un record di controllo amministrativo completo.
- Controlli di amministratore. Gli amministratori gestiscono l'idoneità per l'anteprima, il provider e l'accesso alle risorse e i controlli di utilizzo applicabili. Per i termini relativi al modello, l'auditing, la conservazione, l'etichettatura e la prevenzione della perdita dei dati, verificare la copertura nella configurazione abilitata. Per altre informazioni, vedere Configurare Autopilot per l'organizzazione.
Procedure consigliate per la distribuzione e l'adozione di Autopilot
L'IA responsabile è un impegno condiviso tra Microsoft e i suoi clienti. Mentre Microsoft crea applicazioni di intelligenza artificiale e servizi della piattaforma con sicurezza, equità e trasparenza al centro, i clienti svolgono un ruolo fondamentale nella distribuzione e nell'uso responsabile di queste tecnologie all'interno dei propri contesti. Per supportare questa partnership, offriamo le procedure consigliate seguenti per i deployer e gli utenti finali per aiutare i clienti a implementare l'IA responsabile in modo efficace.
I deployer e gli utenti finali devono:
- Prestare attenzione e valutare i risultati quando si usa Autopilot per decisioni ad alto impatto o in domini sensibili. Le decisioni consequenziali sono quelle che possono avere un impatto legale o significativo sull'accesso di una persona all'istruzione, all'occupazione, ai servizi finanziari, ai benefici governativi, all'assistenza sanitaria, all'alloggio, all'assicurazione o ai servizi legali o che potrebbero causare danni fisici, psicologici o finanziari. Gli ambiti sensibili, ad esempio i servizi finanziari, la sanità e l'alloggio, richiedono particolare attenzione a causa del potenziale impatto sproporzionato su diversi gruppi di persone. Quando si usa l'intelligenza artificiale per le decisioni in queste aree, assicurarsi che gli stakeholder interessati possano comprendere come vengono prese le decisioni, prendere decisioni di appello e aggiornare i dati di input pertinenti.
- Valutare considerazioni legali e normative. I clienti devono valutare potenziali obblighi legali e normativi specifici quando si usano servizi e soluzioni di intelligenza artificiale, che potrebbero non essere appropriati per l'uso in ogni settore o scenario. Inoltre, i servizi o le soluzioni di intelligenza artificiale non sono progettati per e non possono essere usati in modi vietati in termini di servizio e codici di comportamento pertinenti.
I deployer devono:
- Configurare l'accesso in modo appropriato. Conferma la registrazione a Frontier, il criterio di spesa che copre gli utenti di Autopilot, l'attivazione di Autopilot e le impostazioni del provider di intelligenza artificiale. Inizia con un pubblico limitato. Per altre informazioni, vedere Configurare Autopilot per l'organizzazione.
- Informare gli utenti sull'autorizzazione. Spiegare che Autopilot può agire senza conferma in ogni passaggio quando il sistema di revisione automatizzato rileva che un'azione corrisponde alla richiesta e che gli utenti devono esaminare le schede di approvazione e verificare i risultati.
- Guida gli utenti alle autorizzazioni. Abbina azioni, risorse e destinatari autorizzati al flusso di lavoro e ai requisiti dell'organizzazione. Non considerare i controlli dell'interfaccia di anteprima come prova della copertura dei criteri.
- Monitorare l'utilizzo. Esaminare il modo in cui Autopilot viene usato nell'organizzazione per identificare modelli, problemi comuni o aree in cui potrebbero essere necessarie indicazioni aggiuntive.
Gli utenti finali devono:
- Esercita la supervisione umana quando opportuno. La supervisione umana è una salvaguardia importante quando si interagisce con le applicazioni di intelligenza artificiale. Anche se continuiamo a migliorare Autopilot, l'intelligenza artificiale potrebbe comunque commettere errori. Gli output generati possono essere imprecisi, incompleti, distorti, non allineati o irrilevanti per gli obiettivi previsti, a causa di motivi quali ambiguità negli input o limitazioni dei modelli sottostanti. Esaminare le risposte generate da Autopilot e verificare che corrispondano alle aspettative e ai requisiti.
- Sii consapevole del rischio di eccessivo affidamento. L'eccessivo affidamento sull'IA si verifica quando gli utenti accettano output dell'IA errati o incompleti, soprattutto perché gli errori in tali output possono essere difficili da rilevare. Poiché Autopilot può agire per conto dell'utente, esaminarne il lavoro, in particolare destinatari, date e contenuti, prima di approvare le azioni che inviano o condividono informazioni.
- Fornisci istruzioni chiare e specifiche. Includere informazioni dettagliate sul risultato desiderato, i destinatari, la formattazione e le aspettative del contenuto. Più specifica è l'istruzione, migliore è il risultato. Ad esempio, invece di "aiuto con la posta elettronica", prova a scrivere "una risposta a Mira che confermi che mi occuperò della revisione di sicurezza e indica che la correzione del pagamento è pronta".
- Esaminare le automazione prima di attivarle. Le automazione vengono eseguite in base a una pianificazione usando le istruzioni, le identità e le autorizzazioni salvate. Esamina l'ambito salvato prima di abilitare un'automazione e sospenderla se non si comporta come previsto.
- Prestare attenzione nei domini sensibili. Prestare ulteriore attenzione quando le azioni di Autopilot sarebbero irreversibili o altamente consequenziali, come descritto nel codice di comportamento dei Microsoft servizi di intelligenza artificiale aziendale (per le organizzazioni) o nella sezione Codice di comportamento nell'Contratto di Servizi Microsoft (per gli utenti).
Contenuti correlati
Per altre indicazioni o per altre informazioni sull'uso responsabile di Autopilot, è consigliabile consultare la documentazione seguente:
- Panoramica di Autopilot
- Inizia con Autopilot
- Usare Autopilot
- Scenari di Autopilot
- Domande comuni su Autopilot
- Dati, privacy e sicurezza per Microsoft Copilot
Risorse sull'intelligenza artificiale responsabile
Usare queste risorse per comprendere l'approccio di Microsoft all'IA responsabile.