SdcaNonCalibratedBinaryTrainer Klasse

Definition

Namespace:

Microsoft.ML.Trainers

Assembly:

Microsoft.ML.StandardTrainers.dll

Paket:

Microsoft.ML v5.0.0-preview.1.25125.4

Quelle:

SdcaBinary.cs

Die IEstimator<TTransformer> Schulung eines binären Regressionsklassifizierungsmodells mit der stochastischen Dualkoordinaten-Aufstiegsmethode.

public sealed class SdcaNonCalibratedBinaryTrainer : Microsoft.ML.Trainers.SdcaBinaryTrainerBase<Microsoft.ML.Trainers.LinearBinaryModelParameters>

type SdcaNonCalibratedBinaryTrainer = class
    inherit SdcaBinaryTrainerBase<LinearBinaryModelParameters>

Public NotInheritable Class SdcaNonCalibratedBinaryTrainer
Inherits SdcaBinaryTrainerBase(Of LinearBinaryModelParameters)

Vererbung

Object

TrainerEstimatorBase<TTransformer,TModel>

StochasticTrainerBase<TTransformer,TModel>

SdcaTrainerBase<SdcaBinaryTrainerBase<TModelParameters>.BinaryOptionsBase,BinaryPredictionTransformer<TModelParameters>,TModelParameters>

SdcaBinaryTrainerBase<LinearBinaryModelParameters>

SdcaNonCalibratedBinaryTrainer

Hinweise

Um diesen Trainer zu erstellen, verwenden Sie SdcaNonCalibrated oder SdcaNonCalibrated(Options).

Eingabe- und Ausgabespalten

Die Daten in der Spalte für die Eingabezeichnung müssen Boolean sein. Die Spaltendaten der Eingabefeatures müssen ein Vektor mit bekannter Größe sein Single. Der Trainer gibt folgende Spalten aus:

Name der Ausgabespalte	Spaltentyp	Description
Score	Single	Die ungebundene Bewertung, die vom Modell berechnet wurde.
PredictedLabel	Boolean	Der vorhergesagte Bezeichnung, basierend auf dem Abzeichnen der Bewertung. Eine negative Bewertung wird false und eine positive Bewertung wird true zugeordnet.

Trainermerkmale

Machine Learning-Aufgabe	Binäre Klassifizierung
Ist normalisierung erforderlich?	Yes
Ist zwischenspeichern erforderlich?	No
Erforderliches NuGet zusätzlich zu Microsoft.ML	Nichts
Exportierbar in ONNX	Yes

Details des Schulungsalgorithmus

Dieser Trainer basiert auf der Stochastic Dual Coordinate Ascent (SDCA)-Methode, einer modernsten Optimierungsmethode für konvexe Zielfunktionen. Der Algorithmus kann skaliert werden, da er ein Streamingtrainingsalgorithmus ist, wie in einem besten KDD-Dokument beschrieben.

Die Konvergenz wird durch regelmäßiges Erzwingen der Synchronisierung zwischen Primal- und Dualvariablen in einem separaten Thread unterschrieben. Verschiedene Auswahlmöglichkeiten von Verlustfunktionen werden auch bereitgestellt, z. B. Hinge-Verlust und Logistikverlust. Je nach verwendeter Verlust kann das trainierte Modell z. B. Vektormaschine oder logistische Regression unterstützen. Die SDCA-Methode kombiniert mehrere der besten Eigenschaften, wie die Fähigkeit zum Streaming-Lernen (ohne das gesamte Dataset in Ihren Speicher zu passen), ein angemessenes Ergebnis mit einigen Scans des gesamten Datasets zu erreichen (z. B. Experimente in diesem Papier) und keine Berechnung auf Nullen in sparsamen Datensätzen ausgeben.

Beachten Sie, dass SDCA ein stochastischer und Streaming-Optimierungsalgorithmus ist. Das Ergebnis hängt von der Reihenfolge der Schulungsdaten ab, da die Stopptoleranz nicht eng genug ist. In der stark konvexen Optimierung ist die optimale Lösung einzigartig und somit erreicht jeder schließlich denselben Ort. Auch in nicht stark konvexen Fällen erhalten Sie gleich gute Lösungen von der Ausführung bis zur Ausführung. Für reproduzierbare Ergebnisse wird empfohlen, dass ein Wert auf "False" und "NumThreads" auf 1 festgelegt wird.

Diese Klasse verwendet empirische Risikominimierung (d. h. ERM), um das Optimierungsproblem zu formulieren, das auf gesammelten Daten basiert. Beachten Sie, dass empirische Risiken in der Regel durch Anwenden einer Verlustfunktion auf die Vorhersagen des Modells auf gesammelte Datenpunkte gemessen werden. Wenn die Schulungsdaten nicht genügend Datenpunkte enthalten (z. B. um ein lineares Modell im $n$-dimensionalen Raum zu trainieren, benötigen wir mindestens $n$-Datenpunkte), kann die Überlastung passieren, damit das von ERM erstellte Modell gut bei der Beschreibung von Schulungsdaten geeignet ist, aber möglicherweise keine korrekten Ergebnisse in nicht angezeigten Ereignissen vorhergesagt werden kann. Regularisierung ist eine gängige Technik, um ein solches Phänomen zu lindern, indem die Größe (in der Regel durch die Normfunktion gemessen) von Modellparametern bestraft wird. Dieser Trainer unterstützt eine flexible Netznormalisierung, die eine lineare Kombination aus L1-Norm (LASSO), $|| \textbf{w}_c ||_1$, und L2-Norm (Ridge), $|| \textbf{w}_c ||_2^2$-Regularisierungen für $c=1,\Punkte,m$. L1-Norm- und L2-Norm-Regularisierungen haben unterschiedliche Auswirkungen und Verwendungen, die sich in gewisser Hinsicht ergänzen.

Zusammen mit dem implementierten Optimierungsalgorithmus kann die L1-Norm-Regularisierung die Sparsamkeit der Modellgewichte erhöhen, $\textbf{w}_1,\dots,\textbf{w}_m$. Wenn Benutzer den Koeffizienten der L1-Norm sorgfältig auswählen, ist es möglich, eine gute Vorhersagequalität mit einem Modell zu erzielen, das nur wenige Nicht-Null-Gewichte aufweist (z. B. 1% der Gesamtmodellgewichte), ohne die Vorhersageleistung zu beeinträchtigen. Im Gegensatz dazu kann die L2-Norm nicht die Sparsität des trainierten Modells erhöhen, aber dennoch die Überanpassung verhindern, indem große Parameterwerte vermieden werden. Manchmal führt die Verwendung von L2-Norm zu einer besseren Vorhersagequalität, sodass Benutzer es möglicherweise trotzdem ausprobieren und die Koeffizienten der L1-Norm und L2-Norm optimieren möchten. Beachten Sie, dass die Verwendung von L1-Norm impliziert, dass die Verteilung aller Modellparameter eine Laplace-Verteilung ist, während L2-Norm eine gaussische Verteilung für sie impliziert.

Eine aggressive Regularisierung (d. h. das Zuweisen großer Koeffizienten zu L1-Norm- oder L2-Norm-Regularisierungsbegriffen) kann die Vorhersagekapazität beeinträchtigen, indem wichtige Variablen aus dem Modell ausgeschlossen werden. Beispielsweise kann ein sehr großer L1-Norm-Koeffizient dazu führen, dass alle Parameter Nullen sind und zu einem trivialen Modell führen. Daher ist die Auswahl der richtigen Regularisierungskoeffizienten in der Praxis wichtig.

Weitere Informationen findest du unter:

• Skalieren des stochastischen Dualkoordinaten-Aufstiegs.
• Stochastic Dual Coordinate Ascent Methods for Regularized Loss Minimization.

Im Abschnitt "Siehe auch" finden Sie Links zu Beispielen für die Verwendung.

Felder

Name	Beschreibung
FeatureColumn	Die Featurespalte, die der Trainer erwartet. (Geerbt von TrainerEstimatorBase<TTransformer,TModel>)
LabelColumn	Die Bezeichnungsspalte, die der Trainer erwartet. Dies kann sein null, was angibt, dass die Bezeichnung nicht für schulungen verwendet wird. (Geerbt von TrainerEstimatorBase<TTransformer,TModel>)
WeightColumn	Die Gewichtsspalte, die der Trainer erwartet. Dies kann sein null, was angibt, dass das Gewicht nicht für das Training verwendet wird. (Geerbt von TrainerEstimatorBase<TTransformer,TModel>)

Eigenschaften

Name	Beschreibung
Info	Die IEstimator<TTransformer> Schulung eines binären Regressionsklassifizierungsmodells mit der stochastischen Dualkoordinaten-Aufstiegsmethode. (Geerbt von SdcaBinaryTrainerBase<TModelParameters>)

Methoden

Name	Beschreibung
Fit(IDataView)	Züge und Gibt einen ITransformer. (Geerbt von TrainerEstimatorBase<TTransformer,TModel>)
GetOutputSchema(SchemaShape)	Die IEstimator<TTransformer> Schulung eines binären Regressionsklassifizierungsmodells mit der stochastischen Dualkoordinaten-Aufstiegsmethode. (Geerbt von TrainerEstimatorBase<TTransformer,TModel>)

Erweiterungsmethoden

Name	Beschreibung
AppendCacheCheckpoint<TTrans>(IEstimator<TTrans>, IHostEnvironment)	Fügen Sie einen "Zwischenspeicherungsprüfpunkt" an die Schätzkette an. Dadurch wird sichergestellt, dass die nachgeschalteten Schätzer anhand zwischengespeicherter Daten trainiert werden. Es ist hilfreich, einen Zwischenspeicherprüfpunkt vor Trainern zu haben, die mehrere Datendurchläufe übernehmen.
WithOnFitDelegate<TTransformer>(IEstimator<TTransformer>, Action<TTransformer>)	Geben Sie bei einer Schätzung ein Wrapping-Objekt zurück, das eine Stellvertretung aufruft, sobald Fit(IDataView) sie aufgerufen wird. Es ist häufig wichtig, dass ein Schätzer Informationen zu dem, was passt, zurückgeben, weshalb die Fit(IDataView) Methode ein speziell typiertes Objekt und nicht nur ein allgemeines ITransformerObjekt zurückgibt. IEstimator<TTransformer> Gleichzeitig werden jedoch oft in Pipelines mit vielen Objekten gebildet, daher müssen wir möglicherweise eine Kette von Schätzern bauen, über EstimatorChain<TLastTransformer> die der Schätzer, für den wir den Transformator erhalten wollen, irgendwo in dieser Kette begraben wird. Für dieses Szenario können wir über diese Methode einen Delegat anfügen, der aufgerufen wird, sobald "Fit" aufgerufen wird.

Weitere Informationen

• SdcaNonCalibratedBinaryTrainer.Options
• SdcaNonCalibrated(BinaryClassificationCatalog+BinaryClassificationTrainers, String, String, String, ISupportSdcaClassificationLoss, Nullable<Single>, Nullable<Single>, Nullable<Int32>)
• SdcaNonCalibrated(BinaryClassificationCatalog+BinaryClassificationTrainers, SdcaNonCalibratedBinaryTrainer+Options)