Scheda piattaforma: Microsoft Discovery

Questa scheda della piattaforma descrive gli usi previsti, le capacità, le limitazioni e le pratiche consigliate di Microsoft Discovery per una distribuzione e un uso responsabili.

Che cos'è un'applicazione o una scheda piattaforma?

Le carte Application and Platform di Microsoft ti aiutano a capire come funziona la nostra tecnologia AI. Spiegano le scelte che fanno i proprietari delle applicazioni che influenzano le prestazioni e il comportamento dell'applicazione. Sottolineano inoltre l'importanza di considerare l'intera applicazione, inclusa la tecnologia, le persone e l'ambiente. Le carte applicative sono create per applicazioni di IA, e le platform card sono create per i servizi di piattaforma IA. Queste risorse possono supportare lo sviluppo o la distribuzione delle tue applicazioni. Puoi condividerle con utenti o stakeholder interessati dalle applicazioni.

Come parte del suo impegno per l'IA responsabile, Microsoft rispetta sei principi fondamentali: equità, affidabilità e sicurezza, privacy e sicurezza, inclusività, trasparenza e responsabilità. Lo Standard di Responsible AI incorpora questi principi. Lo standard guida i team nella progettazione, costruzione e test di applicazioni di IA. Le schede delle applicazioni e della piattaforma svolgono un ruolo fondamentale nell'operazionalizzazione di questi principi offrendo trasparenza sulle funzionalità, gli usi previsti e le limitazioni. Per ulteriori approfondimenti, esplora il Responsible AI Transparency Report e il Codice di Condotta di Microsoft. Essi delineano come clienti e privati aziendali possano interagire responsabilmente con l'IA.

Panoramica

Microsoft Discovery è attualmente disponibile per alcuni clienti. L'utilizzo di Microsoft Individuazione è soggetto ai requisiti di idoneità dei clienti e all'accettazione delle condizioni di prodotto e del codice di comportamento dell'utente. Richiede una licenza ed è disponibile solo in un numero limitato di regioni. L'obiettivo è garantire che il sistema rimanga sicuro, affidabile e vantaggioso per tutti gli utenti man mano che continuiamo a evolvere le sue funzionalità.

Modalità di distribuzione

Microsoft Discovery è disponibile in due modalità di distribuzione:

• Deployment cloud: Una piattaforma Azure-hosted completamente gestita che utilizza Servizio Azure OpenAI tramite Azure AI Foundry per l'accesso ai modelli, con infrastruttura Azure per calcolo, networking e sicurezza.
• Applicazione locale: un'applicazione desktop che gira sulla tua macchina e utilizza l'SDK GitHub Copilot per l'accesso ai modelli. Questa modalità è pensata per singoli ricercatori e sviluppatori che vogliono utilizzare le capacità di IA agentica di Discovery in un ambiente leggero e locale senza richiedere l'infrastruttura Azure.

Entrambe le modalità di distribuzione condividono lo stesso Discovery Engine di base, architettura multi-agente e capacità di ragionamento della conoscenza. Le sezioni successive indicano dove comportamenti, capacità o responsabilità differiscono tra le due modalità.

La versione preview dell'app Microsoft Discovery (Microsoft Discovery & l'app Microsoft Discovery | Microsoft Learn) non è stata valutata.

Introduction

Microsoft Discovery è una piattaforma di intelligenza artificiale agentica aziendale progettata per supportare la ricerca e lo sviluppo scientifico. Aiuta le organizzazioni a riunire conoscenze di dominio, dati, modelli e calcoli per ragionare attraverso problemi complessi, generare e perfezionare ipotesi, progettare esperimenti e analizzare i risultati. Supportando il metodo scientifico lungo l’intero processo in un unico ambiente, Microsoft Discovery affronta la frammentazione e il sovraccarico cognitivo che spesso rallentano le moderne attività di ricerca e sviluppo.

La piattaforma utilizza un'architettura di IA agentica che sfrutta un motore di conoscenza basato su grafi per guidare risultati di R&D con velocità, scala e accuratezza migliorate. Tramite un'interfaccia in linguaggio naturale, gli utenti possono descrivere obiettivi o domande e il sistema può convertirli in piani strutturati che disegnano strumenti, modelli e flussi di lavoro disponibili. Microsoft Discovery rende operativo il motore di ricerca, che incorpora i risultati e il feedback nel ragionamento successivo, abilitando l'esecuzione di ricerche adattive, comprensibili e ripetibili, mantenendo il controllo nelle mani dell'utente.

Utenti previsti

Microsoft Discovery è destinato alle organizzazioni R&D, tra cui scienziati, ingegneri e sviluppatori, in settori che spaziano dalle scienze della vita, ai materiali, ai semiconduttori, all'energia, al settore manifatturiero e all'ingegneria avanzata. Nel suo deployment cloud, la piattaforma è costruita su Azure ed è progettata per essere estesibile e sicura, permettendo alle organizzazioni di integrare i propri dati, modelli e strumenti in un ambiente unificato guidato dall'IA. L'applicazione locale offre un'alternativa per i singoli ricercatori che vogliono utilizzare le funzionalità di Discovery sulla propria macchina utilizzando l'SDK GitHub Copilot. Invece di sostituire l'esperienza umana, Microsoft Discovery lo aumenta, aiutando i team a gestire la complessità e a ridimensionare le informazioni dettagliate nel processo di ricerca.

Termini chiave

Nella tabella seguente viene fornito un glossario dei termini chiave correlati all'individuazione.

Termine	Definizione
Classificatori	Modelli di Machine Learning che ordinano i dati in classi o categorie di informazioni etichettate.
Motore di ricerca e scoperta	Funzionalità all'interno di Discovery che agisce e si comporta come un collega con cui è possibile conversare, delegare, pianificare in modo cooperativo e consegnare attività a quando si lavora su un lavoro ambizioso a lungo termine. L'obiettivo dell'attività che si desidera svolgere organizza e guida il Discovery Engine. Usa il resto di Discovery come risorse per eseguire il lavoro.
GitHub Copilot SDK	Un kit di sviluppo software che fornisce accesso a grandi modelli di linguaggio tramite GitHub Copilot. Nella modalità di distribuzione locale dell'applicazione, Discovery utilizza il GitHub Copilot SDK come fornitore modello invece di Servizio Azure OpenAI.
Grounding	Le risposte sono ancorate in origini pertinenti, affidabili, ad esempio dati forniti dal cliente, knowledge base interne e contenuto esterno, se applicabile. Le fonti forniscono citazioni o tracciabilità, se disponibili.
Modelli linguistici di grandi dimensioni	Modelli di intelligenza artificiale addestrati su grandi quantità di dati testuali per prevedere le parole in sequenza. Possono eseguire attività come la generazione di testo, il riepilogo, la traduzione e la classificazione.
Mitigazione	Metodi progettati per ridurre i potenziali rischi derivanti dall'uso delle funzionalità di intelligenza artificiale.
Suggerimenti	Input sotto forma di testo, immagini o audio forniti da un utente per interagire con le funzionalità di intelligenza artificiale.
Supercomputer	Il componente supercomputer di Discovery usa Azure hpc (High Performance Computing) e le funzionalità quantistiche future per eseguire flussi di lavoro scientifici, simulazioni e carichi di lavoro di intelligenza artificiale a elevato utilizzo di calcolo.
Messaggio di sistema	Il messaggio di sistema (talvolta definito meta prompt) guida il comportamento del sistema, allineandolo ai principi di intelligenza artificiale Microsoft e alle aspettative degli utenti. Ad esempio, potrebbe includere istruzioni come "Non fornire informazioni o creare contenuti che potrebbero causare danni fisici, emotivi o finanziari".

Funzionalità e capacità chiave

Le caratteristiche e le funzionalità principali descritte qui illustrano ciò che Discovery è progettato per fare e come funziona nell'ambito delle attività supportate.

Interfaccia del linguaggio naturale

Gli utenti interagiscono con Microsoft Individuazione tramite un assistente conversazionale che riconosce le richieste in linguaggio naturale e le converte in un piano strutturato usando strumenti e flussi di lavoro disponibili. Questo approccio aiuta scienziati e ingegneri a passare da una domanda di ricerca a un flusso di lavoro azionabile senza assemblare manualmente più sistemi. Quando necessario, questo Copilot utilizza calcolo integrato e strumenti, come simulazioni, query di database o esecuzioni di modelli, e supporta il perfezionamento iterativo tramite dialoghi. Questo approccio abbassa la barriera all'uso di strumenti avanzati di R&S permettendo agli utenti di adattarsi ed esplorare i flussi di lavoro passo dopo passo nella stessa interfaccia.

Architettura multi-agente

Discovery utilizza un sistema multi-agente, in cui i clienti possono integrare agenti AI specializzati, ciascuno esperto in uno specifico dominio (come chimica, biologia, fisica, progettazione di chip e analisi dei dati) oppure in una funzione specifica (ragionamento, simulazione e ottimizzazione).

Gli agenti interagiscono, coordinati da Copilot e da un grafico delle conoscenze centrale. Possono ragionare su una knowledge base ricca e connessa che integra le origini dati dell'azienda e le conoscenze scientifiche. Questa architettura consente di affrontare problemi multidisciplinari complessi.

Ad esempio, un agente potrebbe analizzare la letteratura scientifica mentre un altro esegue una simulazione e un altro analizza i risultati. Questa intelligenza distribuita è nota come intelligenza artificiale agente. Non si tratta di un modello monolitico, ma di un team di modelli che interagiscono per l'utente.

Motore di ricerca e scoperta

Il motore di individuazione è una funzionalità di base all'interno di Discovery che consente una ricerca e una risoluzione dei problemi sostenuta orientata agli obiettivi in periodi di tempo prolungati. Invece di concentrarsi sulle interazioni transazionali brevi, il motore di individuazione supporta il lavoro a esecuzione prolungata. Coordina il ragionamento, la pianificazione e l'esecuzione tra agenti, strumenti, modelli e origini delle conoscenze.

Il motore di individuazione è progettato per scenari di ricerca complessi che richiedono la scomposizione di obiettivi di alto livello, esplorazione iterativa e integrazione dei risultati in più attività.

Il motore di individuazione opera attraverso due componenti complementari: riconoscimento e attività. Cognition gestisce il ragionamento e il coordinamento in corso necessari per compiere progressi verso gli obiettivi definiti. Le attività includono la selezione di agenti, strumenti e origini dati appropriate e l'adattamento dell'esecuzione in base a risultati intermedi e feedback degli utenti.

Il sistema delle attività cattura l'intenzione, la struttura e i progressi dell'utente. Fornisce una rappresentazione permanente di ciò che deve essere realizzato, del modo in cui viene misurato il successo e del modo in cui il lavoro si evolve nel tempo. Insieme, questi componenti consentono ai clienti di delegare il lavoro, esaminare periodicamente lo stato di avanzamento e perfezionare la direzione in base alle esigenze. Gli utenti possono mantenere la supervisione umana e il controllo durante il processo di ricerca.

A supporto di ricerche a esecuzione prolungata e iterativa, il motore di individuazione mantiene la continuità contestuale tra le interazioni preservando lo stato pertinente dal lavoro precedente, inclusi obiettivi, risultati intermedi, decisioni e linee guida per gli utenti. Questo contesto permanente consente al sistema di riprendere il lavoro tra le sessioni senza richiedere ai clienti di riformulare gli obiettivi o ricostruire i passaggi precedenti.

Portando avanti ciò che è già stato esplorato o deciso, il motore di individuazione supporta lo stato di avanzamento incrementale, la pianificazione adattiva e l'esecuzione più coerente nel tempo. Gli utenti vengono tenuti sotto controllo tramite revisione, perfezionamento e supervisione in ogni fase.

Estendibilità

L'individuazione è progettata per essere estendibile, consentendo ai clienti di usare modelli personalizzati (BYOM), integrare dati proprietari o di terze parti tramite piattaforme come AI Foundry o Azure Machine Learning (AML) e creare agenti personalizzati personalizzati in base alle esigenze del dominio. Integra i tuoi modelli interni, i dati esistenti del laboratorio, i database specifici del settore o anche gli agenti di intelligenza artificiale sviluppati in modo personalizzato. L'individuazione incorpora tali asset nel grafico delle conoscenze e nei flussi di lavoro. Inoltre, Discovery supporta strumenti partner e open-source. Nel suo deployment cloud, Discovery è costruito su Azure e eredita le capacità di sicurezza, conformità e governance di Azure. Nella sua distribuzione locale dell'applicazione, Discovery utilizza l'SDK di GitHub Copilot per accedere ai modelli e viene eseguito nell'ambiente locale dell'utente.

Integrazione HPC

Poiché Discovery si basa sull'infrastruttura all'avanguardia di Azure, integra in modo nativo Azure servizi HPC e intelligenza artificiale. La piattaforma può distribuire carichi di lavoro in cluster CPU/GPU su larga scala, eseguire simulazioni basate sul cloud (come la dinamica fluida computazionale e le dinamiche molecolari) e usare modelli avanzati di intelligenza artificiale, ad esempio modelli di Machine Learning per la fisica personalizzata o modelli di linguaggio di grandi dimensioni , in base alle esigenze.

Ragionamento delle conoscenze

Microsoft Discovery offre un ragionamento conoscitivo avanzato combinando i fondamenti curati del dominio con il recupero e la sintesi delle informazioni potenziati dal grafo e guidati dall'intelligenza artificiale.

Alla fondazione, Discovery offre un servizio di libreria che i ricercatori usano per organizzare e basare il loro lavoro in raccolte curate di letteratura scientifica, documenti e materiali di riferimento su misura per il loro dominio. Questa base garantisce che il ragionamento e l'analisi siano ancorati in fonti attendibili e rilevanti fin dall'inizio.

In base a questa base, Discovery integra in modo nativo Azure AI Search tramite Foundry. Consente il recupero rapido tra repository interni, letteratura esterna e database connessi. Gli utenti possono eseguire facilmente ricerche in diverse origini di conoscenza senza unire manualmente o cambiare contesto.

Ciò che distingue Discovery è il modo in cui ragiona su diverse fonti di conoscenza. L'individuazione va oltre la ricerca semantica tradizionale. Vengono scoperte informazioni dettagliate locali, ad esempio fatti, entità e risultati specifici e comprensione globale, che includono temi, modelli e implicazioni in un intero corpus. Combina in modo dinamico il recupero basato su vettori con il ragionamento orientato al grafo al momento della query.

Questo approccio evita una costosa sintesi iniziale, pur scalando in modo efficiente senza sacrificare la qualità delle risposte. Insieme, queste funzionalità consentono a Discovery di connettere, contestualizzare e sintetizzare le conoscenze in set di dati scientifici di grandi dimensioni e in continua evoluzione. Il risultato è un ragionamento più approfondito, una generazione più rapida di informazioni dettagliate e un'esplorazione scientifica più informata.

Citazioni basate su fonti

Quando le risposte sono basate su dati web o dei clienti, Microsoft Discovery potrebbe fornire citazioni ipertestuali in modo che gli utenti possano accedere ai siti web citati o ai documenti interni e database utilizzati come base per approfondire l'argomento.

Usi previsti

È possibile utilizzare Discovery in molteplici scenari in diversi settori. Nella tabella seguente sono elencati alcuni esempi di casi d'uso.

Settore/Dominio	Scenario	Vantaggi utente
Scienza delle sostanze chimiche e dei materiali	Aziende che sviluppano nuovi materiali, sostanze chimiche o formulazioni (ad esempio, lega avanzate, polimeri, materiali semiconduttori, chimica della batteria, energia rinnovabile, tecnologia sostenibile) che vogliono accelerare la ricerca.	Gli utenti possono generare e testare rapidamente ipotesi per perfezionare le formulazioni usando flussi di lavoro coordinati dall'intelligenza artificiale. La scoperta consente ai ricercatori di simulare proprietà materiali, reazioni chimiche complesse e processi fisici. I compromessi delle prestazioni vengono valutati per identificare configurazioni ottimali. L'individuazione consente di ridurre il tempo e il costo della sperimentazione automatizzando l'orchestrazione degli strumenti, la documentazione pertinente e abilitando cicli di progettazione iterativi. L'individuazione mantiene tracciabilità e riproducibilità.
Farmaci e scienze della vita	Team di farmaco e biotech che lavorano alla scoperta, alla genomica o alla ricerca biomedica con pipeline complesse e set di dati di grandi dimensioni.	La scoperta può aiutare i ricercatori a sintetizzare la letteratura biomedica, identificare i candidati promettenti per i farmaci e progettare esperimenti usando modelli predittivi. L'automazione della generazione di screening e ipotesi in fase iniziale consente ai clienti di concentrarsi sul processo decisionale e sulla convalida. L'automazione accelera potenzialmente le sequenze temporali di individuazione e individua nuove informazioni dettagliate dai dati tra domini.
Progettazione di semiconduttori ed elettronica	Le aziende che progettano nuove architetture di semiconduttori o materiali in cui l'ottimizzazione tra migliaia di parametri e simulazioni è fondamentale.	L'individuazione consente ai tecnici di automatizzare i flussi di lavoro di simulazione, esplorare le alternative di progettazione e analizzare i risultati su larga scala. La piattaforma supporta un'iterazione più rapida verso progetti di chip più efficienti o potenti coordinando simulazioni basate sulla fisica e ottimizzazione basata sull'intelligenza artificiale.
Produzione e ingegneria avanzata	Produttori di settore automobilistico, aerospaziale o industriale che cercano di ottimizzare i processi di progettazione e produzione dei prodotti.	I tecnici possono usare Discovery per eseguire prototipi virtuali su larga scala, testando migliaia di varianti di progettazione per prestazioni, peso e durabilità. Nella progettazione dei processi, la piattaforma consente di ottimizzare i parametri per migliorare la resa e la qualità. Discovery è in grado di coordinare le simulazioni e analizzare i risultati nel loro contesto, consentendo un'innovazione più rapida e decisioni più consapevoli.

Modelli e dati di training

Microsoft Discovery usa un'ampia gamma di modelli di intelligenza artificiale per potenziare l'esperienza visualizzata dagli utenti.

Distribuzione cloud: Nella distribuzione cloud, gli utenti accedono ai modelli tramite Servizio Azure OpenAI tramite Azure AI Foundry. I modelli specifici utilizzati includono, ma non si limitano a, OpenAI gpt-5, OpenAI gpt-5.2, OpenAI gpt-5.4, OpenAI gpt-5.4-mini, OpenAI gpt-5.5 e OpenAI Text Embedding 3 (piccolo). Per informazioni sui dati di training, la valutazione e le considerazioni sull'IA responsabile relative ai modelli Azure OpenAI, vedere la nota sulla trasparenza per Azure OpenAI - piattaforme di intelligenza artificiale di Azure.

Applicazione locale: Nel deployment dell'applicazione locale, gli utenti accedono ai modelli tramite l'SDK GitHub Copilot. I modelli specifici disponibili dipendono dall'abbonamento GitHub Copilot dell'utente e dai modelli abilitati nel suo piano. Per informazioni sui dati di addestramento, la valutazione e le considerazioni di AI responsabile per i modelli disponibili tramite GitHub Copilot, consulta la documentazione di GitHub Copilot.

Performance

Questa sezione illustra le condizioni e l'ambiente sotto le quali si prevede che Discovery funzioni in modo affidabile. Descrive anche i tipi di input accettati dalla piattaforma, gli output prodotti e le lingue supportate.

Modalities

Input previsti	Descrizione	Output previsti
Linguaggio naturale	Prompt conversazionali basati su testo, intenti di ricerca e istruzioni dell'agente inviati tramite l'interfaccia di Discovery Copilot.	Riepiloghi della ricerca, tracce di ragionamento, sintesi della letteratura e risposte conversazionali.
Documenti della knowledge base	File non strutturati per indicizzazione della conoscenza. Alcuni esempi includono PDF, CSV, TXT, Word (.docx), PowerPoint (.pptx) e Excel (.xlsx).	Ragionamento specifico per dominio, report di simulazione e dataset trasformati. Nella distribuzione cloud, gli output sono memorizzati in container designati per Archiviazione di Azure. Nell'applicazione locale, gli output vengono memorizzati sul file system locale dell'utente.
Dati di calcolo	Asset di dati specifici del dominio, file di configurazione e script usati come input per strumenti scientifici in contenitori (ad esempio strutture molecolari o schemi di circuiti).	Script generati, frammenti di codice e file di dati strutturati.

Per garantire un'esecuzione coerente e affidabile, codificare rigorosamente tutte le istruzioni e le richieste dell'agente UTF-8. L'uso della formattazione non conforme, ad esempio artefatti rtf o caratteri che generano errori di codifica (ad esempio Mojibake), potrebbe causare errori di esecuzione o comportamenti imprevisti.

Lingue

Discovery è progettato e valutato per l'inglese. Anche se i modelli LLM sottostanti hanno funzionalità multilingue intrinseche per la comprensione e la generazione del linguaggio naturale, i prompt di sistema della piattaforma, l'interfaccia utente e le valutazioni principali sono ottimizzati e convalidati in inglese per questa versione.

L'uso in altri linguaggi può funzionare in pratica, ma non rientra nell'ambito del comportamento testato e supportato per la versione corrente.

tipi di carico di lavoro

Discovery è ottimizzato per sfide di ricerca complesse, sfaccettate e di lunga durata (compiti che si estendono per ore o giorni) che richiedono l'orchestrazione autonoma di agenti di IA. Non è progettato per query semplici e una tantum. Il motore di individuazione cognitiva della piattaforma passa in modo adattivo tra le modalità di ragionamento veloci e lente per scomporre e risolvere questi problemi complessi.

Ambiente

Distribuzione cloud: Discovery opera all'interno di un ambiente cloud sicuro e ospitato da Azure utilizzando isolamento Rete virtuale (VNet), Managed Identities and Role-Based Controllo di accesso (RBAC). Si basa su pool di nodi HPC (Scalabilble High-Performance Computing) (con opzioni CPU e GPU) per eseguire carichi di lavoro a elevato utilizzo di calcolo.

Applicazione locale: L'applicazione locale si attiva sul desktop dell'utente e accede ai modelli tramite l'SDK GitHub Copilot usando l'account GitHub dell'utente per l'autenticazione. I dati vengono elaborati e memorizzati localmente sulla macchina dell'utente. L'applicazione locale non utilizza l'infrastruttura di rete Azure né le identità gestite. Gli utenti sono responsabili della sicurezza del proprio ambiente locale, inclusi aggiornamenti del sistema operativo, crittografia del disco e configurazione della rete.

Limitations

Comprendere le limitazioni di individuazione è fondamentale per assicurarsi di usarlo entro limiti sicuri ed efficaci. Usa Discovery nelle tue soluzioni o applicazioni innovative, ma tieni presente che Discovery non è progettato per ogni possibile scenario.

Fare riferimento al codice di condotta di individuazione, al codice di comportamento Microsoft Enterprise AI Services (per le organizzazioni) o alla sezione Codice di condotta nell'Contratto di Servizi Microsoft (per utenti singoli). Considerare anche le considerazioni seguenti quando si sceglie un caso d'uso:

• Distorsione dell'automazione e deriva del ciclo: Discovery supporta flussi di lavoro semiautonomi e agentici, che comportano un rischio di distorsione dell'automazione. Questo pregiudizio si riferisce alla tendenza agli output generati dall'intelligenza artificiale eccessivamente attendibili senza convalida sufficiente. Nei flussi di lavoro iterativi, piccole imprecisioni possono anche complicarsi nel tempo, un fenomeno noto come deriva del ciclo.

  La supervisione umana nel ciclo è essenziale per garantire che la ricerca rimanga in pista e allineata all'intento scientifico. I casi d'uso che non possono supportare una revisione umana significativa nei punti decisionali chiave non sono adatti per questa piattaforma nel suo formato corrente.

• Distorsione della rappresentazione: gli output di Discovery possono riflettere gli squilibri presenti nella letteratura scientifica o nei set di dati usati per eseguire il training dei modelli sottostanti. La scoperta potrebbe sovrarappresentare prospettive di ricerca dominanti o sottorappresentare aree emergenti e poco studiate. Applicare competenze di dominio e valutare in modo critico gli output, in particolare quando si lavora in campi nuovi o interdisciplinari in cui la rappresentazione nei dati di training potrebbe essere limitata.

• Rilevanza temporale dei dati: La conoscenza scientifica si evolve rapidamente. Se Discovery si basa su set di dati statici o obsoleti, potrebbe far emergere risultati obsoleti o non rilevare gli sviluppi più recenti. Questo rischio è particolarmente significativo in campi in rapida evoluzione, come la biologia sintetica o la scoperta di farmaci basati sull'IA. Valutare regolarmente la valuta delle origini dati e trattare gli output di conseguenza, soprattutto per ricerche sensibili al tempo.

• Variabilità delle prestazioni e rischio di output impreciso: Quando gli utenti eseguono query sulle knowledge base fornite dai clienti, la qualità della risposta e la base dipendono in larga misura dalla struttura, dalla completezza e dalla pertinenza dei dati sottostanti e dal modo in cui gli agenti sono configurati per recuperare e ragionare su tali dati. Negli scenari in cui la base di conoscenza è scarsa, mal strutturata o con ambito debole, il sistema potrebbe produrre risposte incomplete o insufficienti.

  Per contribuire a ridurre questo rischio, Microsoft fornisce in un repository GitHub un agente di esempio di riferimento che illustra gli schemi consigliati per l'interrogazione delle basi di conoscenza e l'applicazione di vincoli di ancoraggio. Usare questo esempio come punto di partenza quando si creano agenti e flussi di lavoro personalizzati e per applicare la convalida aggiuntiva e la revisione umana per i casi d'uso ad alto impatto. Per altre informazioni, vedere sezione 10.

• Compatibilità della toolchain: L'individuazione si integra con vari strumenti di calcolo e modelli. Le mancate corrispondenze nei presupposti degli strumenti (ad esempio, formati di input, intervalli di parametri o controllo delle versioni) possono causare errori di esecuzione o risultati fuorvianti. Testare e convalidare i flussi di lavoro di orchestrazione degli strumenti con attenzione, soprattutto quando si integrano componenti personalizzati o non Microsoft.

• Dati del cliente: L'utente è responsabile della gestione della riservatezza dei dati e dei controlli di accesso quando si usa il servizio. Non inserire dati regolamentati, classificati o altamente sensibili, a meno che non siano presenti controlli e contratti appropriati.

• Saturazione della conversazione: Man mano che le conversazioni diventano lunghe, la qualità delle risposte può gradualmente diminuire. Quando la conversazione totale si avvicina a ciò che il modello può tenere traccia in modo affidabile, le parti precedenti potrebbero essere riepilogate per fare spazio alle nuove informazioni. Durante questo processo, alcuni dettagli possono essere semplificati, modificati o persi, che possono causare una lenta deriva delle risposte nell'accuratezza o nella finalità.

  Se si nota un calo in uno scambio lungo, l'avvio di una nuova conversazione può aiutare a ripristinare la chiarezza e la qualità delle risposte.

• Diluizione dei segnali di strumenti: Man mano che il sistema ottiene l'accesso a un pool di agenti più grande e più grande, la possibilità di scegliere gli strumenti migliori per l'attività potrebbe peggiorare. Gestire attivamente l'elenco degli agenti che il sistema può utilizzare in base agli scenari pertinenti.

Utilizzi vietati

Gli usi seguenti di Discovery sono rigorosamente vietati:

• Sviluppo di armi: Non puoi usare Discovery per supportare la progettazione, lo sviluppo, il test o la distribuzione di armi chimiche, biologiche, radiologiche o nucleari o qualsiasi altra arma destinata a causare danni di massa.
• Applicazioni dannose: Non è possibile usare Discovery in modi che potrebbero causare danni fisici, psicologici, ambientali o finanziari a individui, organizzazioni o società. Questo divieto include sperimentazione non sicura, uso improprio di output o distribuzione in contesti ad alto rischio senza misure di sicurezza appropriate.
• Violazione di leggi o regolamenti: Non è possibile usare Discovery in alcun modo che violi le leggi, i regolamenti o i requisiti di conformità specifici per il settore. L'utente è responsabile di garantire che l'uso della piattaforma sia allineato a tutti gli obblighi legali e normativi pertinenti.
• Aggiramento dei sistemi di sicurezza: È severamente vietato tentare di aggirare, disabilitare o manomettere i meccanismi di sicurezza integrati di Discovery, i classificatori o i filtri dei contenuti. Questi sistemi sono in atto per garantire un uso responsabile e sicuro della piattaforma.

Valutazioni

Microsoft ha valutato Discovery utilizzando valutazioni manuali e personalizzate basate sul framework di valutazione della Responsible AI di Foundry. Il team ha condotto valutazioni eseguendo una suite selezionata di prompt strutturati su una release di destinazione. Hanno usato la categoria di rischio per esaminare sistematicamente il comportamento del sistema.

La valutazione è stata progettata per rispondere a due domande di base. Discovery si comporta in modo sicuro e coerente quando i clienti tentano di portare il sistema oltre i limiti previsti? Discovery rimane fedele alle fonti di base?

Metodologia di valutazione

Le valutazioni hanno preso in mira due dimensioni del comportamento del sistema: sicurezza e solidità. Per motivi di sicurezza, la valutazione ha verificato se Discovery ha rifiutato, deviato o risposto in modo sicuro quando le richieste hanno tentato di richiedere contenuti non consentiti o sensibili alla politica, o di aggirare le misure di sicurezza del sistema. Deve funzionare pur rimanendo utile e allineato ai criteri per le richieste non dannose.

Per l'affidabilità, la valutazione ha verificato se Discovery è rimasta fedele al contesto fornito e ha recuperato le fonti negli scenari in cui erano previste risposte supportate da prove.

Il comportamento ideale prevede che Discovery risponda in modo coerente nelle diverse varianti dei prompt e nelle categorie di rischio. Discovery deve gestire gli input avversari senza violazioni delle policy. Dovrebbe anche produrre risposte pienamente supportate dalle fonti di riferimento disponibili.

Il comportamento non ottimale include regressioni relative a esecuzioni o benchmark precedenti e generazione di contenuti non sicuri o sensibili ai criteri. Include anche i risultati di jailbreak positivi o la gestione incoerente di prompt simili. Negli scenari con base specifica, il comportamento non ottimale include dettagli inventati, attribuzione di origine non corretta o affermazioni non supportate dal contesto fornito.

Cura dei dati

Il team ha selezionato e organizzato dati di valutazione per testare sistematicamente Discovery nelle principali categorie di rischio. Il set di dati era costituito da richieste di test strutturate progettate per analizzare il comportamento in scenari sia realistici che avversari. Richieste destinate in modo esplicito a quattro domini di rischio:

• Esposizione di copyright e proprietà intellettuale
• Generazione di contenuti dannosi o sensibili alle politiche
• Tentativi di jailbreak diretto e indiretto
• Groundedness

Ogni categoria include varianti non dannose e antagoniste in modo che la valutazione misura il comportamento limite anziché solo le modalità di errore ovvie.

Per garantire che il dataset rappresentasse un utilizzo reale di Discovery (non solo test di stress esclusivamente sintetici), i prompt rispecchiavano flussi di lavoro realistici di Discovery. Tra gli esempi sono inclusi l'assistenza scientifica del flusso di lavoro e gli scenari di sintesi delle conoscenze allineati ai casi d'uso dei prodotti.

Validation

Sono stati applicati più controlli di qualità e validità per garantire l'affidabilità e l'integrità del set di dati di valutazione. Il team ha deduplicato e normalizzato i prompt per rimuovere ambiguità e bias non intenzionali. Hanno esaminato manualmente le etichette delle categorie di rischio per confermare l'allineamento alle definizioni delle politiche. Il team ha rieseguito un sottoinsieme di prompt sui modelli di riferimento forniti da Foundry per confermare la prevista distinzione comportamentale tra risposte sicure e non sicure. Hanno inoltre mantenuto i prompt di regressione della versione precedente per supportare il confronto longitudinale tra le versioni. Il team ha condotto valutazioni rispetto al deployment cloud utilizzando endpoint di Servizio Azure OpenAI. La distribuzione locale dell'applicazione utilizzando l'SDK GitHub Copilot dovrebbe mostrare un comportamento comparabile per gli stessi modelli sottostanti, anche se differenze nel filtraggio dei contenuti e nei controlli di sicurezza tra i due fornitori di modelli potrebbero causare piccole variazioni.

Metriche

Per l'integrità, il team ha misurato se le risposte del sistema sono rimaste fedeli al contesto fornito e hanno rilevato attestazioni non supportate o contenuto fabricato. Le metriche acquisite includono:

• Percentuali di errore degli attributi senza grounding (testo in inglese)
• Percentuali di errori del grounding (testo in inglese)

Per motivi di sicurezza, il gruppo di valutazione personalizzato ha misurato la capacità del sistema di rilevare e attenuare i tentativi impropri tramite completamento sicuro, rifiuto o deviazione. Le metriche acquisite includono:

• Punteggio di conformità dei criteri
• Rilevamento dei rischi ed efficacia della mitigazione
• Precisione della classificazione della sicurezza dei contenuti
• Tasso di resistenza diretta al jailbreak
• Tasso di resistenza al jailbreak indiretto

Analisi comparativa

I risultati sono stati interpretati tramite benchmarking comparativo per rilevare le regressioni e convalidare la stabilità nel tempo. Ogni versione è stata valutata in base a due punti di riferimento: il comportamento del modello di base fornito da Foundry in un subset condiviso di richieste e i risultati cronologici della versione precedente, abilitati dal set di richieste di regressione mantenute. Insieme, questi confronti hanno fornito una visione longitudinale del fatto che la configurazione di sicurezza e affidabilità di Discovery stesse migliorando, fosse stabile o stesse peggiorando tra le versioni.

Limitazioni della metodologia di valutazione

Sebbene questa valutazione fornisca un'analisi strutturata della sicurezza e del grounding di Discovery, presenta diverse limitazioni. La valutazione si basa su un dataset di prompt selezionato e limitato. Nonostante gli sforzi per riflettere l'utilizzo realistico e antagonista, questo set di dati non è in grado di acquisire completamente l'ampiezza delle interazioni utente reali o dei modelli di uso improprio emergente.

La revisione manuale e l'assegnazione dei punteggi personalizzata introducono la soggettività e possono causare variabilità nell'interpretazione tra gli analizzatori. Le valutazioni vengono eseguite anche in impostazioni controllate con richieste predefinite. Tuttavia, potrebbero non riflettere completamente gli scenari dinamici, a più turni o integrati negli strumenti osservati negli ambienti di produzione.

Le valutazioni della groundedness sono limitate al contesto disponibile e alla qualità del recupero delle informazioni al momento della valutazione e potrebbero non essere generalizzabili a tutte le fonti di contenuto o ai set di dati in continua evoluzione.

Un'altra limitazione è che GPT-5.2 e GPT-5.4 sono stati usati come modello di valutazione. Le capacità del modello di analizzatore, il comportamento di ragionamento, la sensibilità al rischio e le potenziali distorsioni possono influenzare i risultati della valutazione.

Di conseguenza, interpretare i risultati come risultati di valutazione assistita da modelli anziché giudizi assoluti di sicurezza o correttezza in tutti i modelli di analizzatore.

Infine, il benchmarking rispetto alle esecuzioni precedenti e ai modelli di base può aiutare a rilevare regressioni e miglioramenti relativi, ma non garantisce sicurezza assoluta, base o correttezza in tutte le condizioni.

Componenti di sicurezza e mitigazioni

Discovery incorpora diversi livelli di controlli di protezione e sicurezza volti a proteggere gli utenti, i dati dei clienti e l'integrità dei flussi di lavoro della ricerca.

Questa sezione descrive i componenti di sicurezza attivi, le misure di mitigazione e le procedure di cybersecurity che i clienti, gli integratori e gli operatori della piattaforma devono conoscere quando usano la piattaforma.

Componenti di sicurezza attivi

L'individuazione usa una combinazione di classificatori di input, filtri e misure di sicurezza a livello di sistema per prevenire l'uso improprio e ridurre il rischio di output dannosi. Questi componenti sono progettati per allinearsi ai principi di IA responsabile di Microsoft e vengono aggiornati continuamente man mano che l'individuazione si evolve.

Distribuzione cloud: I controlli di sicurezza sono forniti tramite Foundry Guardrails, la capacità di sicurezza e filtraggio dei contenuti di Microsoft, e vengono applicati di default a tutti i modelli creati all'interno della piattaforma che scansionano i contenuti in punti di intervento definiti per rilevare e bloccare contenuti non sicuri o inappropriati prima che raggiungano il modello. I clienti possono creare protezioni personalizzate e gestire i livelli di gravità, inclusa la configurazione delle guardrail in modo che siano meno restrittivi, definendo i rischi da rilevare, assegnando guardrail per valutare e monitorare il comportamento dell'agente, la configurazione delle soglie di sicurezza e la valutazione delle prestazioni del modello in diversi casi d'uso. Queste funzionalità supportano la gestione e la sicurezza proattive dei rischi. Per altre informazioni sulla configurazione dei filtri di contenuto, vedere Configurare i filtri di contenuto (versione classica) - Microsoft portale Foundry (versione classica) | Microsoft Learn.

Per registrarsi per l'approvazione per l'uso dei modelli venduti direttamente da Microsoft con guardrail modificati, è possibile inviare il modulo Limited Access Review: Modified Guardrails (Revisione limitata degli accessi: Guardrail modificati). Nella misura in cui si è approvati e conformi a tutti i requisiti per l'uso del modello con guardrail modificati, si avrà il controllo completo, inclusa la possibilità di disattivare completamente le protezioni o di utilizzare solo le annotazioni. Si noti che l'opzione per disabilitare Guardrails è disponibile solo per i clienti gestiti.

Applicazione locale: Nella distribuzione dell'applicazione locale, i controlli di sicurezza sono forniti tramite i criteri per i contenuti integrati dell'SDK di GitHub Copilot e le misure di salvaguardia per un'IA responsabile. Questi includono il filtraggio dei contenuti, i controlli di sicurezza immediati e le politiche di utilizzo applicate dalla piattaforma GitHub Copilot. L'applicazione locale applica anche le tutele a livello di sistema di Discovery, inclusi messaggi di sistema e validazione degli input, per allineare il comportamento ai principi di Responsible AI di Microsoft. I clienti che utilizzano l'applicazione locale dovrebbero consultare le politiche di utilizzo accettabile di GitHub Copilot per dettagli sui controlli di sicurezza applicati al livello modello.

Misure di mitigazione

La sicurezza e la postura di performance di Discovery derivano da una valutazione continua e dalla revisione dei rischi. Per affrontare i rischi come le risposte generate dall'IA non sono accurate, distorsioni di automazione e deriva del ciclo, Discovery enfatizza la supervisione umana nel ciclo come strategia di mitigazione principale. Convalida i risultati generati dall'IA nei punti chiave di decisione, specialmente in scenari di ricerca ad alto rischio.

La piattaforma favorisce la trasparenza mostrando citazioni e, laddove applicabile, le fonti di riferimento su cui si basa il contenuto, aiutando i clienti a risalire all'origine del contenuto generato e a valutarne l'affidabilità. Per i flussi di lavoro a terra, i clienti sono invitati a garantire che i documenti della knowledge base siano attuali, ben strutturati e pertinenti all'ambito di ricerca previsto. L'affidabilità dell'output è direttamente legata alla qualità delle fonti di grounding disponibili.

Discovery consente ai clienti di integrare i propri modelli, set di dati e agenti. Questa estendibilità consente di ridurre la distorsione e migliorare la pertinenza in campi specializzati o emergenti in cui i modelli per utilizzo generico potrebbero risultare sottoperformi. Gli utenti che lavorano in domini sottorappresentati o altamente specializzati sono invitati a usare questa funzionalità per allineare meglio il comportamento della piattaforma al contesto di ricerca specifico.

Misure di cybersecurity

L'architettura della cybersecurity di Discovery è progettata attorno a un modello di difesa in profondità. I comandi specifici variano a seconda della modalità di dispiegamento.

Distribuzione cloud

La seguente sezione descrive le misure attive in vigore per la distribuzione cloud in questa versione.

• Gestione delle identità e degli accessi: Discovery impone il principio del privilegio minimo usando Microsoft Entra ID e RBAC. Tutti gli accessi al piano di controllo e al piano dati vengono autenticati tramite Microsoft Entra ID. Le identità gestite assegnate dall'utente vengono usate per i componenti della piattaforma per accedere alle risorse Azure senza segreti incorporati. I ruoli RBAC specifici della piattaforma supportano la separazione dei compiti tra operatori, sviluppatori e amministratori della sicurezza.
• Sicurezza di rete: Il rilevamento utilizza un'architettura di rete privata per impostazione predefinita. Tutte le risorse di individuazione vengono create con collegamento privato di Azure abilitate per impostazione predefinita, eliminando così l'esposizione degli indirizzi IP pubblici. Per le API del piano dati, l'accesso alla rete pubblica è disabilitato a livello di risorsa. Il traffico è limitato alle reti virtuali dei clienti usando endpoint privati, zone DNS private e gruppi di sicurezza di rete. Questa architettura supporta principi di rete senza attendibilità e riduce la superficie di attacco complessiva della piattaforma.
• Protezione dei dati: I dati dei clienti sono protetti tramite la crittografia e l'isolamento del tenant. La crittografia dei dati inattivi viene fornita dalla crittografia gestita da Azure per i servizi di archiviazione e piattaforma. La crittografia in transito viene applicata tramite HTTPS e Transport Layer Security (TLS) per tutte le comunicazioni da servizio a servizio e da client a servizio. I dati dei clienti, i grafici delle conoscenze e i modelli sono isolati dal tenant e non vengono condivisi tra i clienti. I clienti mantengono la proprietà completa e il controllo dei dati e possono esportare o rimuovere asset in qualsiasi momento.
• Rafforzamento della piattaforma: L'infrastruttura di calcolo di Discovery viene rafforzata utilizzando le baseline di sicurezza di Azure. I cluster di supercomputer e i pool di nodi vengono distribuiti nell'infrastruttura gestita da Azure seguendo gli standard di configurazione della sicurezza Azure. Le revisioni della piattaforma tengono traccia della conformità ai requisiti di benchmark della sicurezza cloud Microsoft, tra cui la configurazione TLS, la registrazione diagnostica e l'utilizzo degli endpoint privati. Le verifiche di sicurezza continue identificano i gap di configurazione e determinano la correzione tramite gli aggiornamenti dell'infrastruttura e l'applicazione dei criteri.
• Registrazione, monitoraggio e rilevamento: L'individuazione si integra con Azure strumenti di monitoraggio e sicurezza per supportare il rilevamento e la risposta. È possibile abilitare i log di diagnostica sulle risorse della piattaforma e indirizzare alle soluzioni di registrazione gestite dal cliente. La connettività e la disponibilità vengono monitorate usando controlli di integrità proattivi e dati di telemetria della piattaforma. I risultati delle verifiche di sicurezza e la deriva della configurazione vengono esaminati come parte delle valutazioni continue della sicurezza della piattaforma.

Applicazione locale

La sezione seguente descrive le misure di sicurezza in vigore per il deployment locale dell'applicazione.

Identità e Autenticazione: L'applicazione locale autentica gli utenti tramite il loro account GitHub utilizzando l'SDK GitHub Copilot. L'accesso alle funzionalità del modello è regolato dall'abbonamento GitHub Copilot dell'utente e dai permessi associati. L'applicazione locale non richiede alcuna credenza Azure o identità gestite.

Protezione dei dati: L'applicazione locale memorizza tutti i dati nel file system locale dell'utente. Le capacità native di crittografia del sistema operativo (ad esempio, BitLocker su Windows o FileVault su macOS) proteggono i dati a riposo. L'applicazione locale cripta la comunicazione con il servizio GitHub Copilot in transito utilizzando HTTPS e TLS. I dati dei clienti rimangono sulla macchina dell'utente e non vengono condivisi con altri utenti o tenant.

Sicurezza delle applicazioni: L'applicazione locale segue il ciclo di vita sicuro (SDL) di Microsoft. Gli aggiornamenti vengono distribuiti tramite meccanismi standard di aggiornamento delle applicazioni e l'applicazione è firmata tramite codice per garantirne l'integrità.

Entrambe le modalità di distribuzione

Sviluppo sicuro e conformità: la scoperta segue il ciclo di vita di sviluppo sicuro di Microsoft (SDL) e un approccio di conformità continuativa. La piattaforma monitora e controlla centralmente bug di sicurezza, vulnerabilità e requisiti SDL su base continua. Discovery partecipa ai programmi continui di gestione di SDL e vulnerabilità di Azure, che supportano audit di conformità esterni, tra cui SOC, ISO e altre certificazioni Azure. Questo approccio garantisce che la sicurezza venga valutata continuamente anziché valutata solo in fase di rilascio.

Responsabilità condivisa

Distribuzione cloud: La sicurezza nella distribuzione cloud segue il modello di responsabilità condivisa di Azure. Discovery protegge la piattaforma sottostante, i servizi gestiti e il control plane. I clienti sono responsabili della protezione delle sottoscrizioni, delle reti virtuali, delle assegnazioni di ruolo e dei criteri di accesso ai dati. Comprendere questa divisione di responsabilità è importante per i clienti che progettano distribuzioni sicure allineate ai requisiti aziendali e di conformità.

Applicazione locale: Nel deployment dell'applicazione locale, l'utente assume una maggiore responsabilità per la sicurezza del proprio ambiente. Microsoft è responsabile della sicurezza dell'applicazione stessa, dei suoi meccanismi di aggiornamento e dell'integrità dell'integrazione SDK di GitHub Copilot. Gli utenti sono responsabili della sicurezza della propria macchina locale, inclusi aggiornamenti del sistema operativo, crittografia del disco, sicurezza di rete e controlli di accesso. Gli utenti dovrebbero anche assicurarsi che il loro account GitHub sia protetto con un'autenticazione solida, inclusa l'autenticazione multifattore.

Best practice per l'integrazione e la distribuzione di Discovery

L'IA responsabile è un impegno condiviso tra Microsoft e i suoi clienti. Microsoft crea applicazioni di intelligenza artificiale con sicurezza, equità e trasparenza al centro, ma i clienti svolgono un ruolo fondamentale nella distribuzione e nell'uso di queste tecnologie in modo responsabile all'interno dei propri contesti. Per supportare questa partnership, offriamo le procedure consigliate seguenti per i distribuitori e gli utenti per aiutare i clienti a implementare in modo efficace l'IA responsabile.

I deployer e gli utenti finali devono

• Prestare attenzione e monitorare i risultati quando si usa l'individuazione per decisioni consequenziali o in domini sensibili: Le decisioni consequenziali possono avere un effetto legale o significativo sull'accesso di una persona all'istruzione, all'occupazione, alle piattaforme finanziarie, ai benefici governativi, all'assistenza sanitaria, all'alloggio, all'assicurazione o alle piattaforme legali. Potrebbero anche causare danni fisici, psicologici o finanziari.

  I domini sensibili richiedono particolare attenzione a causa del potenziale di un impatto sproporzionato su diversi gruppi di persone. Quando si usa l'intelligenza artificiale per le decisioni in queste aree, assicurarsi che gli stakeholder interessati possano comprendere come vengono prese decisioni, decisioni di appello e aggiornare i dati di input pertinenti.

• Valutare considerazioni legali e normative: È necessario valutare potenziali obblighi legali e normativi specifici quando si usano piattaforme e soluzioni di intelligenza artificiale, che potrebbero non essere appropriate per l'uso in ogni settore o scenario. Le piattaforme o le soluzioni di intelligenza artificiale non sono progettate per e non possono essere usate in modi non consentiti in termini di servizio e codici di comportamento pertinenti.

Gli utenti finali dovrebbero

Usare prompt chiari e specifici: Assicurarsi che le richieste siano esplicite sull'obiettivo, sull'ambito dell'attività e sulle prove da usare. Una richiesta chiara ed efficace include in genere:

• Obiettivo (cosa si sta cercando di imparare o decidere).
• Contesto (presupposti di dominio, vincoli e criteri di esito positivo).
• Origini da usare (knowledge base, documenti o strumenti a cui fare riferimento).
• Formato di output (ad esempio tabella, elenco classificato e piano di esperimento).
• Richiesta di base (richieste di citazioni o tracciabilità, se disponibile).

Richiesta di esempio

Usando i documenti della Knowledge Base indicizzati su <TOPIC>, proporre tre ipotesi testabili per <RESEARCH GOAL>. Per ogni ipotesi: (a) riepilogare le prove di supporto, (b) cite le origini specifiche usate e (c) elencare da due a tre esperimenti per convalidarlo. Se l'evidenza è mancante o debole, pronunciarlo in modo esplicito e suggerire quali altri dati sono necessari.

• Monitora la deriva delle prestazioni: La qualità dell'output e il grado di aderenza ai dati di riferimento dipendono dai dati disponibili come base di riferimento e dal modo in cui sono configurati gli agenti o gli strumenti. I risultati possono cambiare man mano che la knowledge base, gli strumenti o i flussi di lavoro si evolvono. Per rilevare la deriva:

  • Rieseguire periodicamente un piccolo insieme di prompt di benchmark e confrontare i risultati in termini di coerenza, completezza e aderenza ai fatti.
  • Osservare i segnali di avviso, ad esempio un numero minore o debole di citazioni, un aumento dell'incertezza, conclusioni contraddittorie o vincoli chiave mancanti.
  • Se si aggiorna la Knowledge Base (aggiungere o rimuovere documenti), considerarli come una modifica della versione e ricontrollare i flussi di lavoro critici.
  • Usare la revisione umana e un secondo metodo di convalida per il lavoro ad alto impatto (revisione degli esperti di dominio, calcolo indipendente o simulazione o esecuzioni di test controllate).

• Esercitare la supervisione umana quando appropriato: La supervisione umana è una protezione importante quando si interagisce con le applicazioni di intelligenza artificiale. Microsoft migliora continuamente le applicazioni di intelligenza artificiale, ma l'IA potrebbe comunque commettere errori. Gli output generati potrebbero essere imprecisi, incompleti, distorti, disallineati o irrilevanti per gli obiettivi previsti.

  Questa situazione può verificarsi a causa di vari motivi, ad esempio ambiguità negli input o limitazioni dei modelli sottostanti. È opportuno esaminare le risposte generate da Discovery e verificare che corrispondano alle tue aspettative e ai tuoi requisiti.

• Comprendere il rischio di sovraccarico: L'eccessiva dipendenza può verificarsi quando gli utenti accettano output di intelligenza artificiale non corretti o incompleti, principalmente perché gli errori negli output di intelligenza artificiale potrebbero essere difficili da rilevare. Questi risultati imprecisi sono solitamente dovuti al fatto che le informazioni sottostanti sono incomplete o non chiaramente fondate. Con Discovery, questo rischio può aumentare in flussi di lavoro iterativi lunghi (in cui piccoli errori possono sommarsi) e in scenari in cui la copertura della Knowledge Base è limitata. Considera gli output come supporto decisionale, non la sostituzione delle decisioni, soprattutto per le decisioni consequenziali.

• Prestare attenzione quando si progetta l'intelligenza artificiale agente nei domini sensibili: Se si progettano o distribuiscono flussi di lavoro autonomi o agenti che possono attivare azioni irreversibili o ad alto impatto (ad esempio, in domini regolamentati o critici per la sicurezza), è necessario aggiungere misure di sicurezza. Potrebbe essere necessario usare controlli di approvazione, accesso con privilegi minimi, log di controllo o ambiti di azione vincolati. Assicurarsi che gli stakeholder interessati possano comprendere come sono stati raggiunti i risultati e possono sfidare o prendere decisioni di appello, se applicabile.

  È anche consigliabile adottare altre precauzioni quando si crea un'intelligenza artificiale agente autonoma, come descritto più avanti nella sezione codice di condotta di Microsoft Enterprise AI Services (per le organizzazioni) o nella sezione Codice di comportamento nella Contratto di Servizi Microsoft (per utenti singoli).

• Fornisci commenti e suggerimenti per migliorare Microsoft Discovery: Se riscontri problemi o vuoi condividere commenti e suggerimenti, in Discovery Studio seleziona Invia commenti nell'angolo in basso a destra. È possibile descrivere cosa è successo e includere i dettagli pertinenti nel modulo di feedback. Invia il modulo per inviare feedback al team Discovery.

Gli implementatori devono

Usa l'agente campione di riferimento come base per la progettazione di agenti basati su dati concreti: Discovery mette a disposizione un agente campione di riferimento nel repository GitHub. L'agente illustra i modelli consigliati per l'esecuzione di query sulle knowledge base dei clienti, l'applicazione di vincoli di base e la gestione dei casi in cui l'evidenza è mancante o debole.

L'esempio illustra come limitare il recupero alle fonti pertinenti e richiedere citazioni esplicite o tracciabilità. Illustra anche come ridurre il rischio di output non fondati o speculativi quando si lavora con dati forniti dai clienti.

• Adattare ed estendere l'esempio in base a dominio, dati e contesto di rischio: Considerare l'agente di esempio di riferimento come punto di partenza anziché una soluzione pronta per la produzione. Quando si creano agenti e flussi di lavoro personalizzati, è consigliabile adattare la logica di recupero delle informazioni, i requisiti di grounding, i passaggi di convalida e la revisione umana nel ciclo. Basare gli agenti e i flussi di lavoro su un dominio, una struttura di dati e un profilo di rischio specifici. Questo approccio è importante per flussi di lavoro agenti ad alto impatto o a esecuzione prolungata.

Implementare controlli forti di identità e accesso (privilegio minimo): Per le implementazioni cloud, Discovery utilizza l'autenticazione Microsoft Entra ID e il controllo degli accessi basato sul ruolo (RBAC), e i deployer dovrebbero rispecchiare quel modello concedendo solo i ruoli minimi necessari per ogni utente o carico di lavoro. Evitare le autorizzazioni generali "Proprietario" o a livello di sottoscrizione, tranne quando sono assolutamente necessarie, ed è preferibile assegnare ruoli mirati a livello di gruppo di risorse o di risorsa. Usare le identità gestite assegnate dall'utente (UAMI) per l'accesso da servizio a servizio in modo da non basarsi sui segreti incorporati e rivedere periodicamente le assegnazioni di ruolo. Per le implementazioni locali di applicazioni, assicurati che gli utenti si autenticino con account GitHub che abbiano i permessi di abbonamento Copilot appropriati e imporre l'autenticazione multifattore su quegli account.

Rafforzare la postura di rete e mantenere le risorse private di default: Per le implementazioni cloud, Discovery è progettato con collegamento privato di Azure abilitato di default e l'accesso pubblico alla rete disabilitato per le API data-plane; mantenere questa posizione limitando l'accesso a reti virtuali affidabili (VNet) e utilizzando endpoint privati, zone DNS private e gruppi di sicurezza di rete (NSG). Quando l'organizzazione richiede un"isolamento circolare aggiuntivo", è possibile distribuire un perimetro di sicurezza di rete (NSP) dopo la distribuzione dell'infrastruttura della piattaforma per proteggere ulteriormente i servizi PaaS dipendenti (ad esempio Cosmos DB, Azure SQL Server, Key Vault, account di archiviazione). La riduzione dell'esposizione pubblica riduce la superficie di attacco e consente di proteggersi da credenziali rubate usate da percorsi di rete non attendibili. Per le implementazioni locali di applicazioni, assicurarsi che la macchina dell'utente sia su una rete sicura e che le connessioni in uscita al servizio GitHub Copilot siano consentite tramite firewall organizzativi.

Mantieni attivati i controlli di sicurezza e convalida eventuali cambiamenti nella soglia di sicurezza: Per le implementazioni cloud, Discovery applica di default Foundry Guardrails / filtraggio dei contenuti per i modelli creati all'interno della piattaforma e i tentativi di bypassare o disabilitare i meccanismi di sicurezza integrati sono vietati. Gli operatori di distribuzione possono creare e gestire protezioni nel Portale Foundry, inclusa la configurazione delle soglie di sicurezza e il monitoraggio del comportamento degli agenti; se si modificano le soglie o si personalizzano i filtri, testare tali modifiche con input rappresentativi prima di implementare su larga scala. Ad esempio, per questa versione, la configurazione del filtro del contenuto include soglie di filtro di input/output (ad esempio, violenza/odio/sessuale a "medio", autolesionismo in "alto") e abilita modelli come il rilevamento di jailbreak e materiale protetto. La modifica di queste impostazioni potrebbe influire sia sull'esperienza utente che sui risultati di sicurezza. Per altre informazioni, vedere la documentazione di Sicurezza dei contenuti di Azure AI - Guide introduttive, Esercitazioni, Informazioni di riferimento sulle API - Strumenti Foundry | Microsoft Learn. Per le implementazioni locali delle applicazioni, i controlli di sicurezza sono forniti dalle politiche di contenuto integrate dell'SDK GitHub Copilot. Questi controlli non dovrebbero essere aggirati e i deployer dovrebbero verificare che le politiche organizzative di Copilot siano configurate correttamente.

Verificare sicurezza, grounding e affidabilità della toolchain prima di estendere l'accesso: Discovery viene valutato mediante una suite strutturata di prompt per diverse categorie di rischio (copyright/IP, contenuti dannosi, tentativi di jailbreak e grounding). Il benchmarking viene usato per rilevare le regressioni nel tempo. È consigliabile adottare una procedura simile per i flussi di lavoro più importanti.

Creare un piccolo set di scenari end-to-end finali che riflettono i casi d'uso previsti. Includere strumenti, modelli e contenuti della Knowledge Base personalizzati. Eseguire di nuovo gli scenari ogni volta che si modificano modelli, strumenti, agenti o set di dati. Poiché le mancate corrispondenze nei presupposti degli strumenti (formati, intervalli di parametri e controllo delle versioni) possono causare errori o risultati fuorvianti, convalidare attentamente i flussi di lavoro di orchestrazione.

Questa procedura è particolarmente importante quando si esegue l'onboarding di componenti personalizzati o non Microsoft. Per gli scenari con impatto più elevato, richiedere la revisione umana e un metodo indipendente di convalida. Ad esempio, utilizzare la revisione da parte di un esperto di dominio o prove controllate.

Abilita la registrazione e monitora continuamente la deriva: Discovery supporta la registrazione e il monitoraggio consentendo di abilitare i log diagnostici e instradarli verso soluzioni di logging gestite dal cliente. Discovery usa controlli di integrità proattivi e dati di telemetria per tenere traccia della connettività e della disponibilità. Abilita questi log, imposta avvisi per fallimenti ripetuti o pattern di errore anomali, e rivedi periodicamente i risultati di sicurezza e le deriva di configurazione come parte delle valutazioni continue della sicurezza della piattaforma.

In caso di variazioni delle prestazioni e della qualità dell'output, considera le modifiche alla base di conoscenza, agli strumenti, ai flussi di lavoro o agli agenti come modifiche di versione. Eseguire di nuovo un piccolo set di benchmark per confrontare coerenza, completezza e base. I segnali di avviso includono citazioni minori o più deboli, maggiore incertezza, conclusioni contraddittorie o vincoli chiave mancanti. Usare questi segnali per attivare una revisione e una correzione più approfondite.

Ulteriori informazioni su Microsoft Discovery

Per altre indicazioni sull'uso responsabile dell'individuazione, è consigliabile consultare la Guida all'uso responsabile, che descrive i principi chiave per la distribuzione delle funzionalità basate sull'intelligenza artificiale. Altre informazioni sono disponibili qui:

• Privacy e sicurezza dei dati di Microsoft Discovery
• Domande frequenti su Microsoft Discovery

Altre informazioni sull'IA responsabile:

• Principi di intelligenza artificiale Microsoft
• Risorse Microsoft per un'IA responsabile
• Corsi Microsoft Azure Learning sull'IA responsabile