LoraConfig interface

Metadati specifici per adattatori per i modelli LoRA. Serve la configurazione del motore al momento del deployment.

Proprietà

alpha

Fattore di scalabilità LoRA (α). Intero positivo; tipicamente 2× del grado.

dropout

Tasso di abbandono utilizzato durante l'addestramento. Informativo — non usato durante il periodo di servizio.

rank

Grado LoRA (r). Intero positivo. Valori comuni: 8, 16, 32, 64.

targetModules

Livelli modello modificati dall'adattatore (ad esempio, q_proj, v_proj). Rilevato automaticamente da adapter_config.json se omesso.

Dettagli proprietà

alpha

Fattore di scalabilità LoRA (α). Intero positivo; tipicamente 2× del grado.

alpha?: number

Valore della proprietà

number

dropout

Tasso di abbandono utilizzato durante l'addestramento. Informativo — non usato durante il periodo di servizio.

dropout?: number

Valore della proprietà

number

rank

Grado LoRA (r). Intero positivo. Valori comuni: 8, 16, 32, 64.

rank?: number

Valore della proprietà

number

targetModules

Livelli modello modificati dall'adattatore (ad esempio, q_proj, v_proj). Rilevato automaticamente da adapter_config.json se omesso.

targetModules?: string[]

Valore della proprietà

string[]