LoraConfig interface

Metadados específicos do adaptador para modelos LoRA. Drives que servem a configuração do motor no momento da implementação.

Propriedades

alpha

Fator de escala da LoRA (α). Inteiro positivo; Normalmente 2× da patente.

dropout

Taxa de abandono usada durante o treino. Informativo — não usado durante o tempo de serviço.

rank

Patente LoRA (r). Inteiro positivo. Valores comuns: 8, 16, 32, 64.

targetModules

Camadas de modelo modificadas pelo adaptador (por exemplo, q_proj, v_proj). Deteção automática de adapter_config.json se for omitida.

Detalhes de Propriedade

alpha

Fator de escala da LoRA (α). Inteiro positivo; Normalmente 2× da patente.

alpha?: number

Valor de Propriedade

number

dropout

Taxa de abandono usada durante o treino. Informativo — não usado durante o tempo de serviço.

dropout?: number

Valor de Propriedade

number

rank

Patente LoRA (r). Inteiro positivo. Valores comuns: 8, 16, 32, 64.

rank?: number

Valor de Propriedade

number

targetModules

Camadas de modelo modificadas pelo adaptador (por exemplo, q_proj, v_proj). Deteção automática de adapter_config.json se for omitida.

targetModules?: string[]

Valor de Propriedade

string[]