Valutazione del modulo

1.

Qual è lo scopo principale di un messaggio di sistema in una richiesta?

Per definire il ruolo, il comportamento e i vincoli di output del modello.

Per fornire dati di training che modificano definitivamente il modello.

Per recuperare dati da un'origine dati esterna.

2.

Quando è consigliabile usare La generazione aumentata di recupero (RAG) invece di basarsi solo sull'ingegneria dei prompt?

Quando si vuole che il modello risponda in uno stile e un formato coerenti.

Quando il modello deve avere accesso a dati specifici del dominio o correnti per i quali non è stato addestrato.

Quando si vuole ridurre la lunghezza delle richieste inviate al modello.

3.

Che cosa controlla il parametro temperature in un modello linguistico?

Numero massimo di token che il modello può generare.

Casualità e creatività delle risposte del modello.

Velocità con cui il modello elabora le richieste.

4.

Cosa ottimizza il fine-tuning in un modello linguistico?

Accuratezza effettiva delle risposte connettendosi a dati esterni.

Coerenza del comportamento, dello stile e del formato di output del modello.

Numero di token che il modello può elaborare in una singola richiesta.

5.

Si sta creando un'applicazione di chat che deve rispondere alle domande usando il catalogo prodotti dell'azienda mantenendo al contempo una voce specifica del marchio. Quale combinazione di strategie è più appropriata?

Solo ingegneria dei prompt, con messaggi di sistema dettagliati.

RAG per i dati del catalogo prodotti, affinamento per la voce del marchio e progettazione di prompt per istruzioni specifiche della conversazione.

Solo l'ottimizzazione, con il catalogo prodotti incluso nei dati di training.

Commenti e suggerimenti