Domande frequenti sugli agenti dichiarativi

Queste domande frequenti sulla trasparenza spiegano gli usi previsti, la valutazione e le limitazioni degli agenti dichiarativi per Microsoft 365 Copilot. Distingue le protezioni della piattaforma dalla convalida e le misure di sicurezza necessarie per l'agente.

Cosa sono gli agenti dichiarativi?

Gli agenti dichiarativi personalizzano Copilot tramite istruzioni, origini di conoscenza e funzionalità supportate. Per le definizioni e le scelte di progettazione, vedere Agenti dichiarativi per Microsoft 365 Copilot.

Cosa possono fare gli agenti dichiarativi?

Gli agenti possono rispondere a domande, riepilogare le conoscenze configurate e richiamare azioni supportate in Microsoft 365 Copilot e nelle app supportate. Le funzionalità disponibili dipendono dallo strumento di creazione, dalle licenze, dai criteri e dall'esperienza host. Per ulteriori informazioni, vedere Architettura dell'agente dichiarativo.

Quali sono gli usi previsti degli agenti dichiarativi?

Usare gli agenti dichiarativi per assistere un gruppo di destinatari definito con attività specifiche, ad esempio rispondere a domande sui criteri dell'organizzazione o recuperare informazioni sugli ordini. Definire il risultato previsto, i limiti e i requisiti di revisione umana. Non presentare risposte fluenti come prova di competenza o accuratezza. Per indicazioni sugli scenari, vedere Decidere se è necessario un agente dichiarativo.

Sono disponibili agenti dichiarativi per i tenant di Microsoft 365 per enti pubblici?

Il supporto dell'agente dichiarativo per i tenant Microsoft 365 Government varia in base al cloud:

  • Government Community Cloud (GCC): è disponibile il supporto completo dell'agente dichiarativo.
  • Government Community Cloud High (GCCH): sono supportati gli agenti Pro-code creati con Microsoft 365 Agents Toolkit. Agent Builder è ora disponibile anche in GCCH.
  • Department of Defense (DoD): supporto limitato: sono supportati solo gli agenti pro-code creati con Microsoft 365 Agents Toolkit. Generatore agente non è disponibile per gli agenti dichiarativi in DoD.

Come sono stati valutati gli agenti dichiarativi? Quali metriche vengono usate per misurare le prestazioni?

Microsoft testa le funzionalità di generazione delle risposte prima del rilascio per valutare l'accuratezza, il grounding e le risposte responsabili allineate alle preferenze umane. I test dell'IA responsabile (RAI) valutano diversi tipi di danni e misurano i tassi di difetto. I risultati informano i miglioramenti del modello e le mitigazioni del danno; Non garantiscono che ogni risposta sia corretta, aggiornata o appropriata.

I controlli RAI si applicano anche durante la convalida del manifesto dell'agente e l'elaborazione delle richieste dell'utente. Per i controlli e gli errori di convalida applicabili, vedere Convalida dell'intelligenza artificiale responsabile. Questi controlli non sostituiscono la valutazione delle istruzioni, delle conoscenze, delle azioni e degli scenari previsti del tuo agente.

In che modo i produttori dovrebbero valutare un agente specifico?

Definire test case rappresentativi con comportamento previsto e asserzioni verificabili. Misura l'accuratezza della risposta, l'attribuzione della fonte, il completamento delle attività, l'uso degli strumenti e il rispetto dei limiti dell'agente. Include informazioni mancanti, accesso limitato, richieste non supportate, azioni annullate ed errori del servizio.

Confronta i risultati tra le versioni ed esegui nuovamente i test quando cambiano le istruzioni, le origini, gli strumenti o il comportamento della piattaforma. La valutazione non sostituisce la revisione responsabile dell'intelligenza artificiale, i test di sicurezza, i test delle prestazioni o la ricerca degli utenti. Vedi Panoramica sulla valutazione degli agenti e Test e iterazione.

Quali sono i limiti degli agenti dichiarativi e come gli utenti possono minimizzarne gli effetti?

Comunicare l'ambito e le limitazioni dell'agente e progettare le misure di sicurezza appropriate:

  • Risposte errate o obsolete. Le risposte generate possono essere imprecise o incomplete. Valutarli rispetto al materiale originale e richiedere una revisione umana laddove le conseguenze lo giustifichino.
  • Limiti di recupero e contesto. Una risposta potrebbe non includere tutto il contenuto di origine pertinente. Mantieni aggiornate le conoscenze, segui i requisiti specifici dell'origine, verifica le domande rappresentative e individua gli host.
  • Contenuto non attendibile. Le informazioni recuperate e i risultati dello strumento possono contenere istruzioni che influenzano l'agente. Le protezioni della piattaforma non sostituiscono i controlli delle autorizzazioni o un'attenta supervisione umana per le operazioni sensibili.
  • Azioni esterne. Le istruzioni non sostituiscono l'autorizzazione sul lato servizio, la convalida dell'input o le regole aziendali. Configurare le conferme appropriate e il comportamento di test di esito negativo e dei nuovi tentativi.

Per le mitigazioni della progettazione, vedere Procedure consigliate per gli agenti dichiarativi. Per i limiti di servizio e autorizzazione, vedere Pianificare dati, privacy e sicurezza.

Quali responsabilità in materia di dati e privacy hanno gli sviluppatori di agenti?

Verificare i dati a cui l'agente può accedere, quali invia ai servizi esterni e le autorizzazioni, le informative sulla privacy e le condizioni per l'utilizzo applicabili. Le protezioni dell'accesso ai dati di Microsoft 365 non sollevano la responsabilità di applicare l'autorizzazione e la protezione dei dati nelle API esterne e nei server MCP.

Documentare i flussi di dati pertinenti, la conservazione e i requisiti di supervisione umana. Collabora con gli amministratori sull'accesso e la distribuzione utilizzando l'accesso e le connessioni del plug-in Govern, anziché presumere che la condivisione di un agente conceda l'accesso alle relative origini dati.

Per gli impegni relativi alla piattaforma, vedere Dati, privacy e sicurezza per Microsoft Copilot. Per le protezioni della piattaforma, vedere Sicurezza per Microsoft Copilot.