Поделиться через


NasBertTrainer.NasBertOptions Класс

Определение

public class NasBertTrainer.NasBertOptions : Microsoft.ML.TorchSharp.TorchSharpBaseTrainer.Options
type NasBertTrainer.NasBertOptions = class
    inherit TorchSharpBaseTrainer.Options
Public Class NasBertTrainer.NasBertOptions
Inherits TorchSharpBaseTrainer.Options
Наследование
Производный

Конструкторы

NasBertTrainer.NasBertOptions()

Поля

ActivationDropout

Коэффициент отспада после активации функций на уровнях FFN. Должен находиться в пределах [0, 1).

AdamBetas

Бета-версии для оптимизатора Adam.

AdamEps

Epsilon для оптимизатора Адама.

AttentionDropout

Коэффициент отспада для веса внимания. Должен находиться в пределах [0, 1).

BatchSize

Количество примеров, используемых для мини-пакетного обучения.

(Унаследовано от TorchSharpBaseTrainer.Options)
ClipNorm

Порог обрезки градиентов. Должен находиться в пределах [0, +Inf). 0 означает, что не обрезать норму.

Dropout

Коэффициент отспада для общих ситуаций. Должен находиться в пределах [0, 1).

DynamicDropout

Следует ли использовать динамическое удаление.

EncoderNormalizeBefore

Следует ли применять нормализацию слоя перед каждым блоком кодировщика.

FinalLearningRateRatio

Окончательная скорость обучения для планировщика полиномиального распада.

(Унаследовано от TorchSharpBaseTrainer.Options)
FreezeEncoder

Указывает, следует ли закреплять параметры кодировщика.

FreezeTransfer

Следует ли заморозить параметры модуля передачи.

LabelColumnName

Имя столбца метки.

(Унаследовано от TorchSharpBaseTrainer.Options)
LayerNormTraining

Следует ли обучать параметры нормы слоя.

LearningRate

Скорость обучения для первых N эпох; все эпохи >N с использованием LR_N. Примечание. Это может интерпретироваться по-разному в зависимости от планировщика.

MaxEpoch

Прекратить обучение при достижении этого количества эпох.

(Унаследовано от TorchSharpBaseTrainer.Options)
PoolerDropout

Коэффициент отспада в слоях пула замаскированных языковых моделей. Должен находиться в пределах [0, 1).

PredictionColumnName

Имя столбца прогнозирования.

(Унаследовано от TorchSharpBaseTrainer.Options)
ScoreColumnName

Имя столбца Оценка.

(Унаследовано от TorchSharpBaseTrainer.Options)
Sentence1ColumnName

Столбец первого предложения.

Sentence2ColumnName

Столбец второго предложения.

StartLearningRateRatio

Начальная скорость обучения для планировщика полиномиального распада.

(Унаследовано от TorchSharpBaseTrainer.Options)
TaskType

Тип задачи, связанный с головой модели.

ValidationSet

Проверочный набор, используемый во время обучения для улучшения качества модели.

(Унаследовано от TorchSharpBaseTrainer.Options)
WarmupRatio

Доля шагов прогрева для планировщика полиномиального распада.

WeightDecay

Коэффициентность распада веса. Должен находиться в пределах [0, +Inf).

(Унаследовано от TorchSharpBaseTrainer.Options)

Применяется к