Modellkatalog und Sammlungen

  • Artikel

Der Modellkatalog im Azure Machine Learning Studio ist die Drehscheibe für eine Vielzahl von Open-Source-Modellen von Drittanbietern und von Microsoft entwickelten Basismodellen, die für verschiedene Sprach-, Sprach- und Bildverarbeitungsanwendungen trainiert wurden. Sie können diese Modelle mit den nativen Funktionen zur Erstellung und zum Betrieb von Open-Source-Grundmodellen in großem Umfang evaluieren, anpassen und bereitstellen, um diese vortrainierten Modelle mit unternehmensgerechter Sicherheit und Daten-Governance einfach in Ihre Anwendungen zu integrieren.

  • Entdecken: Überprüfen Sie Modellbeschreibungen, testen Sie Stichprobenrückschlüsse und durchsuchen Sie Codebeispiele, um das Modell auszuwerten, zu optimieren oder bereitzustellen.
  • Auswerten: Werten Sie aus, ob das Modell für Ihre bestimmte Workload geeignet ist, indem Sie Ihre eigenen Testdaten bereitstellen. Auswertungsmetriken gestalten die Visualisierung einfach, wie gut das ausgewählte Modell in Ihrem Szenario funktioniert hat.
  • Optimieren: Passen Sie diese Modelle mithilfe Ihrer eigenen Trainingsdaten an. Integrierte Optimierungen, die die Feinabstimmung beschleunigen und den für die Optimierung benötigten Arbeitsspeicher und die Compute-Instanz reduzieren. Wenden Sie die Experimentier- und Nachverfolgungsfunktionen von Azure Machine Learning an, um Ihre Trainingsaufträge zu organisieren und das für Ihre Anforderungen am besten geeignete Modell zu finden.
  • Bereitstellen: Stellen Sie vorab trainierte Basismodelle oder optimierte Modelle nahtlos an Onlineendpunkten für Echtzeitrückschlüsse oder an Batchendpunkten zur Verarbeitung großer Datasets im Auftragsmodus bereit. Wenden Sie branchenführende Machine Learning-Operationalisierungsfunktionen in Azure Machine Learning an.
  • Importieren: Open Source-Modelle werden regelmäßig veröffentlicht. Sie können immer die neuesten Modelle in Azure Machine Learning verwenden, indem Sie ähnliche Modelle wie die im Katalog importieren. Sie können beispielsweise Modelle für unterstützte Aufgaben importieren, die dieselben Bibliotheken verwenden.

Beginnen Sie damit, die Modellsammlungen zu untersuchen oder nach Aufgaben und Lizenzen zu filtern, um das Modell für Ihren Anwendungsfall zu finden. Task ruft die Ableitungsaufgabe auf, für die das Foundation-Modell verwendet werden kann. Finetuning-tasks listen die Aufgaben auf, für die dieses Modell optimiert werden kann. License nennt die Lizenzinformationen.

Sammlungen

Im Modellkatalog gibt es drei Arten von Auflistungen:

Von Azure KI kuratierte Open Source-Modelle: Die beliebtesten Open Source-Modelle von Drittanbietern, die von Azure Machine Learning kuratiert sind. Diese Modelle sind für die sofortige Verwendung verpackt und für den Einsatz in Azure Machine Learning optimiert und bieten modernste Leistung und Durchsatz auf Azure-Hardware. Sie bieten native Unterstützung für verteiltes Training und können problemlos über Azure-Hardware hinweg portiert werden.

„Kuratiert von Azure AI“ und Sammlungen von Partnern wie Meta, NVIDIA, Mistral AI sind alle kuratierten Sammlungen im Katalog.

Azure OpenAI-Modelle, die ausschließlich auf Azure verfügbar sind: Stellen Sie Azure OpenAI-Modelle über die Sammlung „Azure Open AI“ im Modellkatalog bereit.

Transformers-Modelle vom HuggingFace Hub: Tausende von Modellen vom HuggingFace Hub sind über die Sammlung „Hugging Face“ für Echtzeitausschluss mit Online-Endpunkten zugänglich.

Wichtig

Modelle im Modellkatalog werden durch Lizenzen von Drittanbietern abgedeckt. Informieren Sie sich über die Lizenz der von Ihnen zu verwendenden Modelle und vergewissern Sie sich, dass die Lizenz Ihren Anwendungsfall zulässt. Einige Modelle im Modellkatalog befinden sich derzeit in der Vorschau. Modelle befinden sich in der Vorschau, wenn mindestens eine der folgenden Anweisungen darauf angewendet wird:
Das Modell kann nicht verwendet werden (kann in einem isolierten Netzwerk bereitgestellt, optimiert und ausgewertet werden).
Das Modellpaketierungs- und Rückschlussschema kann für neuere Versionen des Modells geändert werden. Weitere Informationen in der Vorschau finden Sie in den zusätzlichen Nutzungsbestimmungen für Microsoft Azure-Vorschauversionen.

Vergleichen der Funktionen von Modellen nach Sammlung

Funktion Von Azure Machine Learning kuratierte Open Source-Modelle Transformationsmodelle aus dem HuggingFace-Hub
Rückschluss Online- und Batchrückschluss Onlinerückschluss
Auswertung und Optimierung Auswerten und Optimieren mit der Benutzeroberfläche, dem SDK oder der CLI nicht verfügbar
Importieren von Modellen Eingeschränkte Unterstützung für den Import von Modellen mithilfe des SDK oder der CLI nicht verfügbar

Vergleichen der Attribute von Sammlungen

attribute Von Azure Machine Learning kuratierte Open Source-Modelle Transformationsmodelle aus dem HuggingFace-Hub
Modellformat Kuratiert im MLFlow- oder Triton-Modellformat für eine nahtlose No-Code-Bereitstellung mit Online- und Batchendpunkten Transformatoren
Modellhosting Modellgewichtungen, die in Azure gehostet werden Modellgewichtungen werden bei Bedarf während der Bereitstellung vom HuggingFace-Hub gepullt.
Verwenden im isolierten Netzwerkarbeitsbereich Sofort einsatzbereite Outbound-Funktion zur Verwendung von Modellen. Für einige Modelle sind ausgehende öffentliche Domänen für die Installation von Paketen zur Laufzeit erforderlich. Ausgehenden Zugriff auf HuggingFace-Hub, Docker-Hub und deren CDNs zulassen
Support Unterstützt von Microsoft und abgedeckt durch die Azure Machine Learning SLA Hugging Face erstellt und verwaltet Modelle, die in der HuggingFace-Communityregistrierung aufgeführt sind. Verwenden Sie das HuggingFace-Forum oder den HuggingFace-Support, um Hilfe zu erhalten.

Erfahren Sie mehr