Creare metaprompt
Un messaggio di metaprompt o di sistema è un set di istruzioni del linguaggio naturale usate per guidare il comportamento di un sistema di intelligenza artificiale (eseguire questa operazione, non questo). Un buon metaprompt potrebbe suggerire: “se un utente richiede grandi quantità di contenuti, restituire solo un riepilogo di tali risultati della ricerca”. Se tale istruzione non era presente e un utente ha chiesto all’intelligenza artificiale di recuperare tutti i contenuti trovati per un autore specifico, il modello di intelligenza artificiale potrebbe recuperare tutti i testi non elaborati. Ad esempio, i contenuti completi di un libro protetto da copyright su cui è stato eseguito il training dell’intelligenza artificiale anziché un riepilogo di tali informazioni. La progettazione metaprompt è fondamentale per ogni applicazione di intelligenza artificiale generativa.
La ricerca interna di Microsoft mostra che la creazione di metaprompt efficaci può ridurre il rischio di difetti/problemi di sicurezza.
I metaprompt consentono ai modelli di usare i dati di base in modo efficace e applicare regole che attenuano la generazione di contenuti dannosi o le manipolazioni degli utenti, ad esempio jailbreak o inserimenti di richieste. Microsoft aggiorna continuamente le indicazioni di progettazione dei prompt e i modelli metaprompt con le procedure consigliate più recenti di settore e della ricerca Microsoft.