Scheda applicazione: Microsoft Copilot (per le organizzazioni)

Nota

Microsoft 365 Copilot è ora denominata Microsoft Copilot e Microsoft 365 Copilot Chat ora è denominata Microsoft Copilot Chat. Alcune esperienze, licenze e funzionalità potrebbero continuare a fare riferimento a Microsoft 365 Copilot e Microsoft 365 Copilot Chat durante il periodo di transizione. Non sono previste modifiche alla sicurezza, alla conformità e alla privacy per le organizzazioni.

Nota

  • Le informazioni contenute in questo articolo si applicano solo all'uso di Microsoft Copilot nelle organizzazioni in cui gli utenti hanno eseguito l'accesso con il proprio account aziendale o dell'istituto di istruzione.
  • Per informazioni sull'uso di Microsoft Copilot da parte di persone che hanno eseguito l'accesso con un account Microsoft, ad esempio un indirizzo e-mail personale, vedere la nota sulla trasparenza per Microsoft Copilot (per i singoli utenti).

Che cos'è una scheda dell'applicazione o della piattaforma?

Le schede dell'applicazione e della piattaforma di Microsoft hanno lo scopo di aiutare a comprendere il funzionamento della tecnologia di intelligenza artificiale, le scelte che i proprietari delle applicazioni possono fare per influenzare le prestazioni e il comportamento dell'applicazione e l'importanza di considerare l'intera applicazione, compresa la tecnologia, le persone e l'ambiente. Le schede applicazione vengono create per le applicazioni di intelligenza artificiale e le schede della piattaforma vengono create per i servizi della piattaforma di intelligenza artificiale. Queste risorse possono supportare lo sviluppo o la distribuzione delle proprie applicazioni e possono essere condivise con gli utenti o gli stakeholder interessati.

Nell'ambito del suo impegno per un'intelligenza artificiale responsabile, Microsoft aderisce a sei principi fondamentali: equità, affidabilità e sicurezza, privacy e sicurezza, inclusività, trasparenza e responsabilità. Questi principi sono incorporati nello Standard di intelligenza artificiale responsabile, che guida i team nella progettazione, creazione e test delle applicazioni di intelligenza artificiale. Le schede dell'applicazione e della piattaforma svolgono un ruolo chiave nell'operatività di questi principi, offrendo trasparenza sulle funzionalità, gli usi previsti e le limitazioni. Per ulteriori approfondimenti, i lettori sono invitati a esplorare il Report sulla trasparenza dell'intelligenza artificiale responsabile di Microsoft e il Codice di comportamento dei servizi di intelligenza artificiale aziendale di Microsoft (per le organizzazioni) o la sezione Codice di comportamento nel Contratto di Servizi Microsoft (per gli individui), che illustrano entrambi come interagire con l'intelligenza artificiale in modo responsabile.

Panoramica

Microsoft Copilot è uno strumento di produttività basato su intelligenza artificiale che aiuta a migliorare la creatività, la produttività e le competenze utilizzando modelli linguistici di grandi dimensioni (LLM) e contenuti a cui hai accesso. Fornisce assistenza intelligente in tempo reale collaborando con le app e i servizi Microsoft 365 più diffusi, come Word, Excel, PowerPoint, Outlook, Teams e altro ancora.

Ad esempio, al lavoro è possibile fare in modo che Microsoft Copilot riepiloghi una riunione di Teams persa. A casa, è possibile usare Microsoft Copilot per generare una presentazione usando le foto delle vacanze in famiglia.

Per altre informazioni per le organizzazioni, vedere Panoramica di Microsoft Copilot e Hub di Microsoft Copilot. Per gli utenti, vedere Guida e formazione su Microsoft Copilot.

Termini chiave

La tabella seguente fornisce un glossario dei termini chiave correlati a Microsoft Copilot.

Termine Descrizione
Agents Gli agenti sono progettati per automatizzare ed eseguire processi aziendali usando l'intelligenza artificiale, in base a istruzioni predefinite e all'accesso ai dati dell'organizzazione. Possono assistere o agire in modo indipendente per conto di individui o team, da semplici interazioni di richiesta e risposta all'esecuzione di attività completamente autonome. Per altre informazioni sull'uso dell'intelligenza artificiale negli agenti Copilot, fare riferimento direttamente a tali offerte.
Contenuto delle interazioni Termine usato per descrivere la richiesta dell'utente e la risposta di Microsoft Copilot a tale richiesta.
Richiesta arricchita Un prompt viene arricchito quando vengono aggiunte altre istruzioni al prompt per guidare Microsoft Copilot nella generazione di una risposta più specifica e pertinente.
Grounding Il grounding si riferisce al processo di fornitura di sorgenti di input al LLM correlate al prompt. Consentendo a Microsoft Copilot di accedere ai dati da usare come origini di input, come i dati di Microsoft Graph o Bing, Microsoft Copilot può fornire agli utenti risposte più accurate e pertinenti al contesto.
Indicizzazione Microsoft usa l'indicizzazione sia lessicale che semantica dei dati di Microsoft Graph per ottimizzare le risposte di Microsoft Copilot nei dati aziendali. L'indicizzazione interpreta i prompt per produrre risposte pertinenti al contesto.
Inferenza L'inferenza è la fase di elaborazione in cui un modello di intelligenza artificiale esegue la richiesta per produrre un output o una risposta, ad esempio riepilogando un contenuto o rispondendo a una domanda.
Modello linguistico di grandi dimensioni (LLM) I modelli linguistici di grandi dimensioni (LLM) in questo contesto sono modelli di intelligenza artificiale addestrati su grandi quantità di dati di testo per prevedere le parole in sequenza. I LLM sono in grado di eseguire una varietà di attività, come la generazione di testi, il riepilogo, la traduzione, la classificazione e altro ancora.
Microsoft Graph Microsoft Graph è il gateway per dati e intelligence in Microsoft 365. Include informazioni sulle relazioni tra utenti, attività e dati di un'organizzazione.
Post-elaborazione L'elaborazione eseguita da Microsoft Copilot dopo aver ricevuto una risposta da LLM. Questa post-elaborazione include ulteriori chiamate di base a Microsoft Graph, intelligenza artificiale responsabile, controlli di sicurezza, conformità e privacy.
Elaborazione L'elaborazione di una richiesta utente in Microsoft Copilot prevede diversi passaggi, inclusi controlli di intelligenza artificiale responsabile, per aiutare Microsoft Copilot a fornire risposte pertinenti e attuabili.
Richiesta Un prompt è il testo inviato a Microsoft Copilot per eseguire un'attività specifica o fornire informazioni. Ad esempio, un utente potrebbe immettere la richiesta seguente: Scrivi un messaggio di posta elettronica congratulandomi con il mio team per la fine dell'anno fiscale.
Test del team rosso Tecniche utilizzate dagli esperti per valutare i limiti e le vulnerabilità di un sistema e per testare l'efficacia delle mitigazioni pianificate. Il test del team rosso viene utilizzato per identificare i potenziali rischi ed è distinto dalla misurazione sistematica dei rischi.
Risposta Contenuto generato da LLM e restituito a Microsoft Copilot come risposta a una richiesta.
Intelligenza Artificiale Responsabile I criteri, la ricerca e le procedure ingegneristiche di Microsoft che si basano sui nostri principi di intelligenza artificiale e sono resi operativi tramite il nostro standard di intelligenza artificiale responsabile.

Caratteristiche o capacità principali

Le caratteristiche e le capacità principali nella tabella seguente descrivono cosa è progettato per fare Microsoft Copilot e come funziona nelle attività supportate.

Funzionalità Descrizione
Microsoft Copilot in Word Microsoft Copilot in Word trasforma la scrittura con efficienza e creatività, in modo che gli utenti possano creare, riepilogare, comprendere, perfezionare ed elevare i documenti. Gli utenti possono anche usare funzionalità avanzate come la visualizzazione e la trasformazione del testo in una tabella. Alcune altre funzionalità includono anche l'aggiunta di richieste esistenti, la stesura di un documento facendo riferimento ad altri documenti e l'individuazione di informazioni sui documenti.

Per altre informazioni, vedi Domande frequenti su Copilot in Word.
Microsoft Copilot in PowerPoint Microsoft Copilot in PowerPoint consente agli utenti di creare una nuova presentazione da una richiesta o da un file di Word, usando i modelli aziendali. La funzionalità di chat consente di eseguire riepiloghi e domande&risposte e comandi leggeri consente agli utenti di aggiungere diapositive, immagini o apportare modifiche alla formattazione a livello di presentazione. I file PowerPoint possono essere usati anche per mettere a terra i dati.

Per altre informazioni, vedi Domande frequenti su Copilot in PowerPoint.
Microsoft Copilot in Excel Microsoft Copilot in Excel assiste gli utenti con suggerimenti per formule, tipi di grafici e informazioni dettagliate sui dati nei fogli di calcolo.

Per altre informazioni, vedi Domande frequenti su Copilot in Excel.
Microsoft Copilot in Outlook Microsoft Copilot in Outlook consente di gestire la posta in arrivo e creare comunicazioni di grande impatto in modo più efficiente. Microsoft Copilot in Outlook può riepilogare un thread di posta elettronica, suggerire attività, risposte e riunioni di completamento. Può anche regolare la lunghezza e il tono durante la stesura di un messaggio di posta elettronica.

Per altre informazioni, vedi Domande frequenti su Copilot in Outlook.
Microsoft Copilot in Teams Microsoft Copilot in Teams può riepilogare le conversazioni, organizzare i punti di discussione chiave e riassumere le azioni principali. Gli utenti possono ottenere risposte a domande specifiche e recuperare informazioni su ciò che hanno perso nelle riunioni o nelle chat

Per altre informazioni, vedi Domande frequenti su Copilot in Microsoft Teams.
Microsoft Copilot in Loop Microsoft Copilot in Loop consente agli utenti di creare contenuti che possono essere migliorati in modo collaborativo attraverso la modifica diretta o il perfezionamento da parte di Copilot.

Per altre informazioni, vedi Domande frequenti su Copilot in Loop.
Microsoft Copilot nel lettore video di Microsoft Clipchamp Microsoft Copilot nel lettore video di Microsoft Clipchamp consente di ottenere informazioni da qualsiasi video con una trascrizione. Microsoft Copilot nel lettore video di Clipchamp può fornire un riepilogo del video, rispondere a domande specifiche, passare rapidamente ad argomenti o punti di discussione specifici e identificare inviti all'azione.

Per altre informazioni, vedi Domande frequenti su Copilot nel lettore video Clipchamp.
Microsoft Copilot in Whiteboard Microsoft Copilot in Whiteboard consente di avviare il processo di ideazione per generare, classificare e riepilogare le idee.

Per altre informazioni, vedi Domande frequenti su Copilot in Whiteboard.
Microsoft Copilot in OneNote Microsoft Copilot in OneNote consente agli utenti di elaborare piani, generare idee, creare elenchi e organizzare le informazioni per aiutarli a trovare ciò di cui hanno bisogno nell'app OneNote.

Per altre informazioni, vedi Domande frequenti su Copilot in OneNote.
Microsoft Copilot in Microsoft Forms Microsoft Copilot in Microsoft Forms fornisce assistenza basata sull'intelligenza artificiale per sondaggi, test e inchieste. Copilot può aiutare gli utenti a redigere, rivedere, inviare e analizzare i risultati.

Per altre informazioni, vedi Domande frequenti su Copilot in Forms.
Microsoft Copilot Chat Microsoft Copilot Chat combina la potenza dei modelli linguistici di grandi dimensioni con Internet, i contenuti e il contesto di lavoro e altre app, per aiutare gli utenti a creare contenuti, recuperare informazioni e ottenere risposte alle domande tramite prompt.

Per ulteriori informazioni, vedi Domande frequenti su Microsoft Copilot Chat.
Microsoft Copilot nell'editor di testo RTF di SharePoint Microsoft Copilot nell'editor RTF di Microsoft SharePoint semplifica la creazione di contenuti nelle pagine e nei post di SharePoint. Con Copilot è possibile riscrivere il testo, regolare il tono, sintetizzare informazioni ed elaborare idee.

Per altre informazioni, vedi Domande frequenti su Copilot in SharePoint.
Microsoft Copilot in OneDrive Microsoft Copilot in OneDrive è un innovativo assistente basato sull'intelligenza artificiale progettato per aiutarti a interagire con i tuoi documenti estraendo informazioni, confrontando le differenze principali, riepilogando i file e generando approfondimenti.

Per altre informazioni, vedi Domande frequenti su Copilot in OneDrive.
Schede Glance di Microsoft Copilot Le schede Glance offrono una rapida anteprima delle entità aziendali, ad esempio i documenti, per facilitare la valutazione della pertinenza o il richiamo. Per accedervi, passa il puntatore del mouse sui file nella scheda Cerca dell'app Microsoft Copilot.
Connettori di Power Platform I connettori Power Platform consentono ai clienti di accedere ai dati da una raccolta di applicazioni di produttività aziendale e personale nell'esperienza Microsoft Copilot.
Connettori di Microsoft 365 Copilot I connettori di Microsoft 365 Copilot consentono di inserire i dati line-of-business non strutturati in Microsoft Graph, in modo che Microsoft Copilot possa esaminare l'intero contenuto aziendale.

Per ulteriori informazioni, vedere Panoramica dei connettori di Microsoft 365 Copilot.
Microsoft Purview Microsoft Purview è una soluzione che consente alle organizzazioni di gestire e proteggere i propri dati. Fornisce una piattaforma unificata per la governance dei dati, la protezione delle informazioni, la gestione dei rischi e la conformità. I clienti possono estendere le funzionalità di Microsoft Purview fornite dagli abbonamenti Microsoft dei clienti (ad esempio, abbonamenti Microsoft 365 E3 o E5) ai dati e alle interazioni di Microsoft Copilot.
Ottimizzazione di Microsoft Copilot L'ottimizzazione di Microsoft Copilot consente alle organizzazioni di ottimizzare i modelli linguistici di grandi dimensioni (LLM) usando i dati del tenant. Questi modelli possono essere usati per eseguire attività specifiche del dominio in base alle conoscenze univoche dell'organizzazione.

Per altre informazioni, vedi Domande frequenti su Copilot Tuning.
Microsoft Copilot Studio Microsoft Copilot Studio è una potente piattaforma per la creazione di agenti sicuri, scalabili e intelligenti che funzionano in Microsoft 365 e nei sistemi line-of-business.

Per altre informazioni, vedere Scheda applicazione: Microsoft Copilot Studio.
Funzionalità Generatore di agenti in Microsoft Copilot La funzionalità Generatore di agenti in Microsoft Copilot offre un'interfaccia semplice che è possibile usare per creare rapidamente e facilmente agenti dichiarativi, usando il linguaggio naturale o manualmente.

Per altre informazioni, vedi Generatore di agenti in Microsoft Copilot.
Microsoft Copilot con agente che usa il computer Microsoft Copilot con l'agente che usa computer consente di automatizzare le attività del browser o del desktop in modo che le richieste possano sfruttare maggiormente il contenuto e il contesto. Poiché l'agente può eseguire attività per conto dell'utente, può verificarsi un rischio maggiore per la sicurezza o la privacy del sistema. Per ridurre questo rischio, l'agente dispone di più misure di sicurezza, tra cui controlli di sicurezza basati su modello per contenuti e azioni, nonché controlli dell'amministratore tenant che abilitano o disabilitano l'agente che utilizza il computer e limitano i siti Internet e i domini a cui l'agente può accedere. È consigliabile applicare questi controlli e valutare l'utilizzo dell'agente.
Microsoft Copilot Cowork Microsoft Copilot Cowork usa l'intelligenza artificiale per eseguire attività in più passaggi per conto dell'utente in Microsoft 365. Descrivi ciò di cui hai bisogno in linguaggio naturale e Cowork lo esegue inviando e-mail, pianificando riunioni, creando documenti, pubblicando in Teams, conducendo ricerche e gestendo file.

Per ulteriori informazioni, vedere Scheda applicazione: Microsoft Copilot Cowork.

Estensibilità e personalizzazione

La funzionalità Generatore di agenti in Microsoft Copilot e Copilot Studio sono strumenti per la creazione di agenti sicuri, scalabili e intelligenti che funzionano in Microsoft 365 e nei sistemi line-of-business. Entrambi gli strumenti ti consentono di creare agenti, ma soddisfano esigenze diverse. Utilizza la funzione Generatore agenti se desideri creare rapidamente un agente per te o per un piccolo team, utilizzando un linguaggio naturale e i contenuti esistenti. Scegli Copilot Studio se hai bisogno di un agente per un pubblico più ampio o se l'agente richiede funzionalità avanzate come flussi di lavoro in più fasi o integrazioni personalizzate. Per altre informazioni, vedere Scegliere tra Microsoft Copilot e Copilot Studio per creare l'agente e gli agenti dichiarativi per Microsoft Copilot.

Per gli sviluppatori, l'SDK per agenti Microsoft 365 fornisce gli strumenti per creare agenti che lavorano a stretto contatto con le app e i servizi di Microsoft 365.

Destinazioni d'uso

Microsoft Copilot può essere usato in più scenari in diversi settori. Alcuni esempi di casi d'uso includono:

  • Interazione e creazione di Chat e conversazione: gli utenti possono interagire con Microsoft Copilot Chat e generare risposte tratte da documenti attendibili, ad esempio documentazione interna dell'azienda o documentazione del supporto tecnico.
  • Ricerca: Gli utenti possono eseguire ricerche in documenti di origine attendibili, ad esempio documentazione interna dell'azienda.
  • Riassunto: Gli utenti possono inviare contenuti da riepilogare per argomenti predefiniti integrati nell'applicazione. Gli esempi includono il riepilogo di chat, messaggi di posta elettronica, pagine Web e documenti di Word di Teams.
  • Assistenza alla scrittura su argomenti specifici: Gli utenti possono creare nuovi contenuti o riscrivere i contenuti inviati dall'utente come ausilio alla scrittura per contenuti aziendali o argomenti predefiniti. Ad esempio, quando si scrivono messaggi di posta elettronica in Microsoft Outlook o si scrivono contenuti in Microsoft Word.
  • Sottotitoli o trascrizione: Gli utenti possono trascrivere file audio in testo per la comprensione del linguaggio naturale o per attività analitiche come i riepiloghi. Alcuni esempi includono trascrizioni di riunioni e video di Teams nel lettore video Microsoft Clipchamp.

Microsoft fornisce indicazioni dettagliate incentrate su casi d'uso e scenari comuni, per aiutare i clienti ad accelerare l'adozione delle funzionalità di Microsoft Copilot nelle loro organizzazioni. Per altre informazioni, vedere Raccolta di scenari Microsoft - Adozione Microsoft.

Modelli e dati di training

Microsoft Copilot sfrutta un'ampia gamma di modelli di intelligenza artificiale per potenziare l'esperienza visualizzata dagli utenti, ad esempio negli esempi seguenti:

  • Modelli generativi di trasformatori pre-addestrati (GPT) forniti da Microsoft (servizio Azure OpenAI)
  • Modelli di sonetto di Claude Opus e Claude forniti da Anthropic
  • Modelli GPT forniti da OpenAI

Nota

Per altre informazioni sui dati usati per eseguire il training di questi modelli dietro Microsoft Copilot, vedi le risorse seguenti:

Microsoft Copilot usa una combinazione di modelli linguistici di grandi dimensioni per riepilogare, prevedere e generare contenuto, inclusi i modelli forniti da Microsoft (servizio Azure OpenAI), Anthropic e OpenAI. Questo ci consente di abbinare le esigenze specifiche di ogni funzionalità, ad esempio velocità, creatività, al modello giusto, in modo che Microsoft Copilot possa fornire assistenza intelligente in tempo reale che consente agli utenti di migliorare la propria creatività, produttività e competenze. Per altre informazioni sui modelli linguistici di grandi dimensioni (LLM) forniti a Microsoft da OpenAI, consulta la relativa documentazione pubblica in Modelli - API OpenAI.

Prestazioni

In molti sistemi di intelligenza artificiale, le prestazioni sono spesso definite in relazione all'accuratezza, ovvero alla frequenza con cui il sistema di intelligenza artificiale offre una previsione o un output corretto. Con Microsoft Copilot, due utenti diversi potrebbero guardare lo stesso output e avere opinioni diverse su quanto sia utile o pertinente, il che significa che le prestazioni per questi sistemi devono essere definite in modo più flessibile. In generale, le prestazioni vengono considerate come le prestazioni dell'applicazione previste dagli utenti.

Funzionamento di Microsoft Copilot

  • Microsoft Copilot riceve una richiesta di input da un utente in un'app, ad esempio Word o PowerPoint. Per un elenco delle lingue supportate, vedere Lingue supportate per Microsoft Copilot.
  • Microsoft Copilot elabora quindi il prompt, migliorando la specificità del prompt, per aiutare l'utente a ottenere risposte pertinenti e attuabili per il suo compito specifico. La richiesta può includere testo da file di input o altri contenuti individuati da Microsoft Copilot utilizzando Microsoft Graph e Microsoft Copilot invia questa richiesta all'LLM per l'elaborazione. Microsoft Copilot accede solo ai dati a cui un singolo utente ha accesso esistente, in base, ad esempio, ai controlli di accesso basati sui ruoli di Microsoft 365 esistenti.
  • Microsoft Copilot prende la risposta dal LLM e la post-elabora. Questa post-elaborazione include altre chiamate di grounding a Microsoft Graph, controlli di intelligenza artificiale responsabile, ad esempio classificatori di contenuto, controlli di sicurezza, conformità e privacy e generazione di comandi.
  • Microsoft Copilot restituisce la risposta all'app, in cui l'utente può esaminarla e valutarla.

I dati archiviati sulle interazioni degli utenti con Microsoft Copilot sono crittografati e non vengono utilizzati per eseguire il training di modelli di base (inclusi quelli usati da Microsoft Copilot) da provider di modelli come Microsoft (Azure Open AI Service), Anthropic o OpenAI. Per altre informazioni, vedere Dati, privacy e sicurezza per Microsoft Copilot.

Come Microsoft Copilot genera risposte senza contenuti Web o dati organizzativi

Microsoft Copilot non richiede contenuti Web o dati dell'organizzazione per fornire una risposta, ma tali informazioni possono contribuire a migliorare la qualità, l'accuratezza e la pertinenza della risposta. Quando risponde senza dati Web o organizzativi, Microsoft Copilot si basa solo sui suoi LLM per comprendere i prompt e generare risposte. Il processo prevede l'analisi dell'input, l'utilizzo della knowledge base interna del modello e il perfezionamento della risposta per renderla contestualmente appropriata.

Limitazioni

Comprendere i limiti di Microsoft Copilot è fondamentale per determinare se viene usato entro limiti sicuri ed efficaci. Anche se incoraggiamo i clienti a sfruttare Microsoft Copilot nelle loro soluzioni o applicazioni innovative, è importante notare che Microsoft Copilot non è stato progettato per tutti gli scenari possibili. Invitiamo gli utenti a fare riferimento al Codice di comportamento dei servizi di intelligenza artificiale aziendale di Microsoft ( per le organizzazioni) o alla sezione Codice di comportamento del Contratto di Servizi Microsoft (per gli individui), nonché alle seguenti considerazioni nella scelta di un caso d'uso:

  • Compatibilità: Anche se Microsoft Copilot è progettato per funzionare perfettamente con le applicazioni Microsoft 365, possono verificarsi limitazioni o problemi di compatibilità in determinati ambienti, in particolare con app di terze parti (non Microsoft) e configurazioni personalizzate o non standard.

  • Personalizzazione e flessibilità: Sebbene Microsoft Copilot possa essere personalizzato, esistono limitazioni su quanto può essere personalizzato per soddisfare esigenze organizzative o flussi di lavoro specifici. Le organizzazioni potrebbero trovare alcune funzionalità o risposte rigide o non completamente allineate ai requisiti dell'organizzazione.

  • Dipendenza dalla connettività Internet: Microsoft Copilot si basa sulla connettività Internet per funzionare. Qualsiasi interruzione della connettività può influire sulla disponibilità e sulle prestazioni del servizio.

  • Formazione e adozione degli utenti: L'uso efficace di Microsoft Copilot richiede che gli utenti comprendano le sue capacità e limitazioni. Potrebbe esserci una curva di apprendimento e gli utenti devono essere formati per interagire in modo efficace e trarre vantaggio dal servizio.

  • Intensità delle risorse: L'esecuzione di modelli avanzati di intelligenza artificiale richiede risorse computazionali significative, che possono influire sulle prestazioni, soprattutto in ambienti con risorse limitate. Gli utenti potrebbero riscontrare problemi di latenza o prestazioni durante i picchi di utilizzo.

  • Pregiudizi, stereotipi e contenuti infondati: Nonostante la formazione intensiva da parte di OpenAI e Anthropic e l'implementazione di controlli di intelligenza artificiale responsabile da parte di Microsoft sia sui prompt dell'utente che sugli output LLM, i servizi di intelligenza artificiale sono fallibili e probabilistici. Per questo motivo è difficile bloccare in modo completo tutti i contenuti inappropriati, con conseguenti potenziali pregiudizi, stereotipi o infondatezza dei contenuti generati dall'intelligenza artificiale. Per altre informazioni sulle limitazioni note dei contenuti generati dall'intelligenza artificiale, vedi le risorse seguenti:

  • Lingue supportate: Attualmente, Microsoft Copilot supporta meno lingue rispetto a Microsoft 365. Se la lingua che si sta utilizzando o richiedendo nel prompt non è attualmente supportata, viene visualizzato un messaggio di errore. Per altre informazioni, vedere Lingue supportate per Microsoft Copilot.

  • Potenziale danno fisico o psicologico significativo a un individuo. Evitare l'uso o l'uso improprio del sistema che potrebbe causare danni fisici o psicologici significativi a un individuo. Ad esempio, gli scenari che diagnosticano i pazienti o prescrivono farmaci possono causare danni significativi.

  • Impatto consequenziale sulle opportunità di vita o sullo status giuridico. Evitare l'uso o l'abuso del sistema che potrebbe avere un impatto consequenziale sulle opportunità di vita o sullo status giuridico. Gli esempi includono scenari in cui il sistema di intelligenza artificiale potrebbe influenzare lo status giuridico di un individuo, i diritti legali o il suo accesso al credito, all'istruzione, all'occupazione, all'assistenza sanitaria, all'alloggio, all'assicurazione, alle prestazioni di assistenza sociale, ai servizi, alle opportunità o alle condizioni in cui vengono forniti.

  • Domini o settori ad alto rischio. Considera attentamente i casi d'uso in domini o settori ad alto rischio. Esempi includono, a titolo esemplificativo ma non esaustivo, medico o finanziario.

Valutazioni

Le valutazioni delle prestazioni e della sicurezza valutano se le applicazioni di intelligenza artificiale funzionano in modo affidabile e sicuro esaminando fattori come fondamento, pertinenza e coerenza, identificando al contempo i rischi di generazione di contenuti dannosi. Le seguenti valutazioni sono state condotte con componenti di sicurezza già in atto, descritti anche in Componenti di sicurezza e mitigazioni.

Valutazioni delle prestazioni e della qualità

Le valutazioni delle prestazioni per le applicazioni di intelligenza artificiale sono essenziali per contribuire a migliorarne l'affidabilità nelle applicazioni reali. Metriche come la pertinenza della risposta, l'accuratezza e la fondatezza consentono di valutare l'accuratezza e la coerenza degli output generati dall'intelligenza artificiale, in modo che siano supportati in scenari di contenuto fondati, contestualmente appropriati e strutturati logicamente. Per Microsoft Copilot, conduciamo regolarmente rigorose valutazioni della qualità su più metriche, come pertinenza, accuratezza e fondamento.

Metodi di valutazione delle prestazioni e della qualità

Microsoft Copilot è stato valutato usando scenari basati su testo e immagini che riflettono il modo in cui gli utenti lavorano tra Microsoft 365 Apps. Le valutazioni per metriche come la fondatezza, la qualità della risposta e la pertinenza delle citazioni hanno utilizzato metodi LLM consolidati come giudici. I set di test offline includevano query fattuali, comprensione di più documenti, riepilogo e scenari aziendali rappresentativi. I valutatori hanno valutato se le risposte erano supportate dai fatti, contestualmente appropriate e strutturate logicamente. I risultati ideali riflettono una messa a terra accurata, un ragionamento chiaro e prestazioni coerenti in tutte le varianti dello stesso compito. I risultati non ottimali includono affermazioni non supportate, citazioni mancanti o irrilevanti o output incoerenti con richieste simili.

Valutazioni di rischio e sicurezza

La valutazione dei potenziali rischi associati ai contenuti generati dall'intelligenza artificiale è essenziale per proteggersi da rischi di contenuti con vari gradi di gravità. Ciò include la valutazione della predisposizione di un sistema di intelligenza artificiale alla generazione di contenuti dannosi o il test delle vulnerabilità agli attacchi di jailbreak. Per Microsoft Copilot, le seguenti sono alcune delle valutazioni di rischio e sicurezza condotte:

  • Odio e ingiustizia
  • Sessuale
  • Violenza
  • Autolesionismo
  • Materiale protetto
  • Jailbreak indiretto
  • Jailbreak diretto
  • Vulnerabilità del codice
  • Attributi infondati

Metodi di valutazione del rischio e della sicurezza

Le valutazioni del rischio e della sicurezza hanno utilizzato prompt contraddittori basati su testo e classificatori automatici per valutare potenziali danni, tra cui odio, contenuti sessuali, violenza, autolesionismo, fuga di materiale protetto, tentativi di jailbreak e attributi infondati. I test combinavano le valutazioni dei giudici LLM con il rilevamento basato sul classificatore e i test manuali, ove necessario. Risultati ideali: reindirizza o rifiuta le richieste non sicure e mantiene il mantenimento coerente dei confini tra le varianti di prompt. I risultati non ottimali includono la produzione di contenuti dannosi, la risposta incoerente agli input avversari o l'esibizione di suscettibilità alle tecniche di jailbreak.

Componenti di sicurezza e mitigazioni

Così come abbiamo identificato i potenziali rischi e l'uso improprio attraverso processi come i test del team rosso e li abbiamo misurati, abbiamo sviluppato misure di prevenzione per ridurre il potenziale di danno. Nell'elenco seguente vengono descritte alcune di queste misure di prevenzione. Continueremo a valutare le esperienze di Microsoft Copilot per migliorare le prestazioni del prodotto e le misure di prevenzione.

  • Rilascio a fasi, valutazione continua. Ci impegniamo a imparare e migliorare continuamente il nostro approccio all'IA generativa man mano che le nostre tecnologie e il comportamento degli utenti evolvono. Apportiamo regolarmente modifiche a Microsoft Copilot per migliorare le prestazioni del prodotto, migliorare le misure di prevenzione esistenti e implementare nuove misure di prevenzione in risposta alle nostre conoscenze.

  • Radicamento nei dati aziendali. Un rischio noto con i modelli linguistici di grandi dimensioni è la loro capacità di generare contenuti infondati che sembrano corretti ma non sono presenti nei materiali di partenza. Un'importante soluzione di prevenzione in Microsoft Copilot consiste nel radicare i contenuti generati dall'intelligenza artificiale nei dati aziendali rilevanti a cui l'utente ha accesso in base alle proprie autorizzazioni. Ad esempio, in base alla richiesta, a Microsoft Copilot vengono forniti documenti aziendali pertinenti per fondare la sua risposta su tali documenti. Tuttavia, nel riepilogare il contenuto di varie fonti, Microsoft Copilot può includere nella risposta informazioni che non sono presenti nelle origini di input. In altre parole, può produrre risultati infondati. Gli utenti devono sempre prestare attenzione e usare il loro miglior giudizio quando usano gli output di Microsoft Copilot. Abbiamo adottato diverse misure per mitigare il rischio che gli utenti possano fare eccessivo affidamento su contenuti generati dall'intelligenza artificiale senza fondamento. Laddove possibile, le risposte in Microsoft Copilot basate su documenti aziendali includono riferimenti alle fonti per consentire agli utenti di verificare la risposta e ottenere ulteriori informazioni. Agli utenti viene inoltre fornito un avviso esplicito che stanno interagendo con un sistema di intelligenza artificiale e sono invitati a controllare il materiale originale per aiutarli a usare il loro giudizio migliore.

  • Classificatori basati su intelligenza artificiale e metaprompting per ridurre i potenziali rischi o uso improprio. L'uso di modelli linguistici di grandi dimensioni può produrre contenuti problematici che potrebbero causare danni. Gli esempi potrebbero includere output correlati a autolesionismo, violenza, contenuto grafico, problemi di biosicurezza, materiale protetto, informazioni imprecise, incitamento all'odio o testo che potrebbe riguardare attività illegali. I classificatori come quelli disponibili in Sicurezza dei contenuti di Azure AI e Metaprompting sono due esempi di misure di prevenzione implementate in Microsoft Copilot per ridurre il rischio di questi tipi di contenuto. I classificatori classificano il testo per contrassegnare diversi tipi di contenuto potenzialmente dannoso nei prompt o nelle risposte generate. Microsoft Copilot utilizza i classificatori basati sull'intelligenza artificiale e i filtri dei contenuti. I flag portano a potenziali misure di prevenzione, ad esempio non restituendo all'utente contenuto generato o dirottandolo su un altro argomento. Microsoft offre alcuni controlli di filtro dei contenuti per amministratori e utenti in cui il filtro di contenuti potenzialmente dannosi o sensibili in Microsoft Copilot Chat non soddisfa le loro esigenze. Il metaprompting implica fornire istruzioni al modello per guidarne il comportamento, anche in modo che il sistema si comporti in conformità con i principi dell'intelligenza artificiale e le aspettative degli utenti di Microsoft. Ad esempio, il metaprompt può includere una riga come "comunicare nella lingua scelta dall'utente".

  • Arricchimento rapido. In alcuni casi, la richiesta di un utente può essere ambigua. In questo caso, Microsoft Copilot può usare LLM per creare maggiori dettagli nella richiesta in modo da garantire che gli utenti ottengano la risposta che stanno cercando. Tale arricchimento immediato non si basa su alcuna conoscenza dell'utente o sulle sue ricerche precedenti, ma piuttosto sul LLM.

  • Interventi di progettazione e di esperienza utente incentrati sull'utente. La progettazione incentrata sull'utente e le esperienze utente sono un aspetto essenziale dell'approccio di Microsoft all'intelligenza artificiale responsabile. L'obiettivo è radicare il design del prodotto nelle esigenze e nelle aspettative degli utenti. Quando gli utenti interagiscono con Microsoft Copilot per la prima volta, sono disponibili vari punti di contatto progettati per aiutarli a comprendere le funzionalità del sistema, comunicare loro che Microsoft Copilot è basato sull'intelligenza artificiale e comunicare le limitazioni.

  • Divulgazione dell'intelligenza artificiale. Microsoft Copilot offre diversi punti di contatto per una divulgazione significativa dell'intelligenza artificiale, in cui gli utenti ricevono una notifica che interagiscono con un sistema di intelligenza artificiale, nonché opportunità per saperne di più su Microsoft Copilot. Ad esempio, quando si usa Microsoft Copilot nell'app Word, il contenuto generato dall'intelligenza artificiale viene fornito insieme all'avviso che il contenuto generato dall'intelligenza artificiale può contenere errori. Fornire agli utenti queste conoscenze può aiutarli a evitare di affidarsi eccessivamente agli output generati dall'intelligenza artificiale e a conoscere i punti di forza e le limitazioni del sistema.

  • Provenienza dei media. Per tutte le immagini create con le funzionalità di modifica di Designer dall'interno di Microsoft Copilot, abbiamo implementato le credenziali di contenuto, la provenienza in base allo standard C2PA, per aiutare le persone a identificare se le immagini sono state modificate o generate con l'intelligenza artificiale. I metadati di provenienza possono essere visualizzati nel sito Credenziali contenuto.

  • Feedback e valutazione continua. L'esperienza di Microsoft Copilot si basa sugli strumenti esistenti che consentono agli utenti di inviare feedback sui nostri prodotti. Gli utenti possono inviare feedback sui contenuti generati da Microsoft Copilot usando il riquadro visualizzato dopo aver selezionato i pulsanti pollice su o pollice giù nelle risposte. I feedback inviati dagli utenti vengono usati per migliorare le nostre offerte nell'ambito del nostro impegno a migliorare le prestazioni dei prodotti. Gli amministratori dei clienti possono esaminare i feedback inviati nell'interfaccia di amministrazione di Microsoft 365. Inoltre, miglioriamo e testiamo continuamente le prestazioni di Microsoft Copilot e specifiche misure di prevenzione come parte della nostra continua valutazione e miglioramento del servizio. Per altre informazioni, vedere Feedback su Microsoft Copilot con Microsoft 365 Apps.

Il nostro approccio alla mappatura, alla misurazione e alla gestione dei rischi continuerà a evolversi man mano che impariamo di più e stiamo già apportando miglioramenti in base al feedback ricevuto dai clienti.

Procedure consigliate per la distribuzione e l'adozione di Microsoft Copilot

L'intelligenza artificiale responsabile è un impegno condiviso tra Microsoft e i suoi clienti. Mentre Microsoft crea sistemi di intelligenza artificiale incentrati sulla sicurezza, l'equità e la trasparenza, i clienti svolgono un ruolo fondamentale nella distribuzione e nell'uso responsabile di queste tecnologie all'interno dei propri contesti. Per supportare questa partnership, offriamo le seguenti best practice per i deployer e gli utenti finali per aiutare i clienti a implementare l'intelligenza artificiale responsabile in modo efficace.

I distributori e gli utenti finali devono:

  • Presta attenzione e valuta i risultati quando usi Microsoft Copilot per decisioni consequenziali o in domini sensibili: Le decisioni consequenziali sono quelle che possono avere un impatto legale o significativo sull'accesso di una persona all'istruzione, all'occupazione, ai servizi finanziari, ai benefici governativi, all'assistenza sanitaria, all'alloggio, alle assicurazioni, ai servizi legali o che potrebbero causare danni fisici, psicologici o finanziari. I settori sensibili, come i servizi finanziari, l'assistenza sanitaria e l'alloggio, richiedono particolare attenzione a causa del potenziale impatto sproporzionato su diversi gruppi di persone. Quando usi l'intelligenza artificiale per le decisioni in queste aree, assicurati che gli stakeholder interessati possano comprendere come vengono prese le decisioni, appellarsi alle decisioni e aggiornare tutti i dati di input pertinenti.

  • Valutare le considerazioni legali e normative: I clienti devono valutare potenziali obblighi legali e normativi specifici quando usano servizi e soluzioni di intelligenza artificiale, che potrebbero non essere appropriati per l'uso in ogni settore o scenario. Inoltre, i servizi o le soluzioni di intelligenza artificiale non sono progettati e non possono essere usati in modi proibiti dalle condizioni d'uso applicabili e dai codici di comportamento pertinenti.

  • Consente il riferimento al contenuto Web. Consentire a Microsoft Copilot di fare riferimento a contenuti Web può migliorare la qualità, l'accuratezza e la pertinenza delle risposte di Microsoft Copilot in cui una risposta trarrebbe vantaggio dalle informazioni pubbliche aggiornate provenienti dal Web. Si noti, tuttavia, che quando Microsoft Copilot fa riferimento a contenuti Web, lo fa tramite il servizio di Ricerca Bing e le procedure di gestione dei dati per le query di Ricerca Bing sono diverse da come i dati vengono gestiti da Microsoft Copilot. L'uso di Bing è trattato nel Contratto di Servizi Microsoft tra ogni utente e Microsoft, insieme all'Informativa sulla privacy di Microsoft.

  • Estendere il grounding in Microsoft Graph. Microsoft Copilot usa i dati di Microsoft Graph per ottimizzare le risposte nei dati specifici dell'organizzazione come messaggi di posta elettronica, chat, file e calendari. Estendendo Microsoft Graph con i dati dell'organizzazione provenienti da origini come i sistemi CRM o i repository di file esterni, le organizzazioni possono includere informazioni aggiuntive pertinenti e specifiche del contesto che migliorano ulteriormente la ricchezza e l'accuratezza delle risposte di Microsoft Copilot.

Gli utenti finali devono:

Per migliorare le prestazioni in relazione all'accuratezza dell'output di Microsoft Copilot, è consigliabile che le organizzazioni considerino quanto segue:

  • Scrivi buoni prompt. Scrivere buoni prompt è fondamentale per ottenere risultati migliori con Microsoft Copilot. Proprio come esistono tecniche per aiutare le persone a comunicare efficacemente con un essere umano, esistono linee guida che possono aiutare gli utenti a ottenere risultati migliori con Microsoft Copilot quando scrivono i prompt. Ad esempio: includi dettagli, struttura suggerimenti, fornisci istruzioni positive, iterazione e rigenerazione e rivedi e verifica sempre le risposte generate dall'intelligenza artificiale. Per altre informazioni, vedi Ottenere risultati migliori con il prompt di Copilot.

  • Esercitare la supervisione umana quando appropriato: La supervisione umana è un'importante salvaguardia quando si interagisce con i sistemi di intelligenza artificiale. Anche se continuiamo a migliorare i nostri sistemi di intelligenza artificiale, l'intelligenza artificiale potrebbe continuare a commettere errori. Gli output generati possono essere imprecisi, incompleti, parziali, disallineati o non pertinenti per gli obiettivi previsti. Ciò potrebbe verificarsi a causa di vari motivi, ad esempio ambiguità negli input o limitazioni dei modelli sottostanti. Pertanto, gli utenti devono esaminare le risposte generate da Microsoft Copilot e verificare che corrispondano alle loro aspettative e requisiti.

  • Sii consapevole del rischio di eccessivo affidamento: L'eccessivo affidamento sull'IA si verifica quando gli utenti accettano output di IA errati o incompleti, principalmente perché gli errori negli output di IA possono essere difficili da rilevare. Per l'utente finale, l'eccessivo affidamento potrebbe comportare una diminuzione della produttività, perdita di fiducia, abbandono del prodotto, perdita finanziaria, danni psicologici, danni fisici, tra gli altri. Ad esempio, un medico accetta un output di intelligenza artificiale errato. Per Microsoft Copilot, contribuiamo a mitigare questo rischio aggiungendo dichiarazioni di non responsabilità ai nostri prodotti, ma gli utenti dovrebbero comunque assicurarsi di verificare l'accuratezza delle risposte.

  • Prestare attenzione quando si progetta l'intelligenza artificiale agente in domini sensibili: Gli utenti devono prestare attenzione durante la progettazione e/o la distribuzione di sistemi di intelligenza artificiale agentica in domini sensibili in cui le azioni degli agenti sono irreversibili o altamente consequenziali. È necessario prendere ulteriori precauzioni anche durante la creazione di IA agente autonoma, come descritto più avanti nel Codice di comportamento dei servizi di intelligenza artificiale aziendale di Microsoft ( per le organizzazioni) o nella sezione Codice di comportamento del Contratto di Servizi Microsoft (per gli utenti privati).

I deployer devono:

Microsoft fornisce strumenti come il dashboard di Microsoft Copilot per i clienti e i report di Microsoft 365 nell'interfaccia di amministrazione di Microsoft 365. Questi strumenti sono progettati per aiutare le organizzazioni a misurare l'utilizzo, l'adozione e l'impatto di Microsoft Copilot. Ad esempio:

  • Il report sull'utilizzo di Microsoft Copilot consente agli amministratori di visualizzare un riepilogo del modo in cui l'adozione, la conservazione e il coinvolgimento degli utenti con Microsoft Copilot per gestire e ottimizzare le licenze. Per altre informazioni, vedere Utilizzo di Microsoft Copilot.
  • Dashboard di Microsoft Copilot fornisce a leader, analisti e delegati l'accesso a report predefiniti sull'uso di Microsoft Copilot e Copilot Chat a livello di organizzazione per misurare l'adozione e l'impatto. Per altre informazioni, vedere Connettersi al dashboard di Microsoft Copilot per i clienti di Microsoft 365.
  • Copilot Business Impact è disponibile in Viva Insights Consente agli analisti di confrontare l'utilizzo di Microsoft Copilot con le metriche aziendali per comprendere il valore aziendale. Per altre informazioni, vedere Report sull'impatto aziendale di Copilot.

Altre informazioni su Microsoft Microsoft Copilot

Per ulteriori indicazioni sull'uso responsabile di Microsoft Copilot, si consiglia di esaminare la documentazione seguente:

Scopri di più sull'intelligenza artificiale responsabile

  • Last updated on