Modelcatalogus en verzamelingen

  • Artikel

De modelcatalogus in Azure Machine Learning-studio is de hub voor een breed scala aan opensource-toepassingen van derden en door Microsoft ontwikkelde basismodellen die vooraf zijn getraind voor verschillende gebruiksscenario's voor taal, spraak en visie. U kunt deze modellen evalueren, aanpassen en implementeren met de systeemeigen mogelijkheden om opensource-basismodellen op schaal te bouwen en operationeel te maken om deze vooraf getrainde modellen eenvoudig te integreren in uw toepassingen met beveiliging en gegevensbeheer op bedrijfsniveau.

  • Ontdekken: Bekijk modelbeschrijvingen, probeer voorbeelddeductie en blader door codevoorbeelden om het model te evalueren, af te stemmen of te implementeren.
  • Evalueren: Evalueren of het model geschikt is voor uw specifieke workload door uw eigen testgegevens op te geven. Metrische evaluatiegegevens maken het eenvoudig om te visualiseren hoe goed het geselecteerde model in uw scenario is uitgevoerd.
  • Afstellen: Pas deze modellen aan met uw eigen trainingsgegevens. Ingebouwde optimalisaties die het afstemmen versnellen en het geheugen en de rekenkracht verminderen die nodig zijn voor het afstemmen. Pas de mogelijkheden voor experimenten en tracering van Azure Machine Learning toe om uw trainingstaken te organiseren en het model te vinden dat het meest geschikt is voor uw behoeften.
  • Implementeren: Implementeer vooraf getrainde Foundation-modellen of nauwkeurig afgestemde modellen naadloos op online-eindpunten voor realtime deductie of batcheindpunten voor het verwerken van grote deductiegegevenssets in de taakmodus. Pas toonaangevende operationele mogelijkheden voor machine learning toe in Azure Machine Learning.
  • Importeren: Opensource-modellen worden regelmatig uitgebracht. U kunt altijd de nieuwste modellen in Azure Machine Learning gebruiken door modellen te importeren die vergelijkbaar zijn met modellen in de catalogus. U kunt bijvoorbeeld modellen importeren voor ondersteunde taken die gebruikmaken van dezelfde bibliotheken.

U begint met het verkennen van de modelverzamelingen of door te filteren op basis van taken en licenties om het model voor uw use-case te vinden. Task roept de deductietaak aan waarvoor het basismodel kan worden gebruikt. Finetuning-tasks vermeld de taken waarvoor dit model kan worden afgestemd. License roept de licentiegegevens aan.

Verzamelingen

Er zijn drie typen verzamelingen in de modelcatalogus:

Opensource-modellen gecureerd door Azure AI: de populairste opensource-modellen van derden die worden gecureerd door Azure Machine Learning. Deze modellen zijn verpakt voor kant-en-klare gebruik en zijn geoptimaliseerd voor gebruik in Azure Machine Learning, met geavanceerde prestaties en doorvoer op Azure-hardware. Ze bieden systeemeigen ondersteuning voor gedistribueerde training en kunnen eenvoudig worden overgezet op Azure-hardware.

'Gecureerd door Azure AI' en verzamelingen van partners zoals Meta, NVIDIA, Mistral AI zijn allemaal gecureerde verzamelingen in de catalogus.

Azure OpenAI-modellen, exclusief beschikbaar in Azure: Azure OpenAI-modellen implementeren via de verzameling Azure Open AI in de modelcatalogus.

Transformatormodellen van de HuggingFace-hub: duizenden modellen van de HuggingFace-hub zijn toegankelijk via de verzameling 'Hugging Face' voor realtime deductie met online eindpunten.

Belangrijk

Modellen in de modelcatalogus vallen onder licenties van derden. Meer informatie over de licentie van de modellen die u van plan bent te gebruiken en te controleren of uw licentie uw use-case toestaat. Sommige modellen in de modelcatalogus zijn momenteel beschikbaar als preview-versie. Modellen zijn in preview als een of meer van de volgende instructies hierop van toepassing zijn:
Het model is niet bruikbaar (kan worden geïmplementeerd, afgestemd en geëvalueerd) binnen een geïsoleerd netwerk.
Modelverpakkings- en deductieschema kan worden gewijzigd voor nieuwere versies van het model. Zie Aanvullende gebruiksvoorwaarden voor Microsoft Azure Previews voor meer informatie over preview.

Mogelijkheden van modellen vergelijken per verzameling

Functie Open source-modellen opgesteld door Azure Machine Learning Transformers-modellen van de HuggingFace-hub
Deductie Online- en batchdeductie Onlinedeductie
Evaluatie en afstelling Evalueren en afstemmen met de gebruikersinterface, SDK of CLI niet beschikbaar
Modellen importeren Beperkte ondersteuning voor het importeren van modellen met behulp van SDK of CLI niet beschikbaar

Kenmerken van verzamelingen vergelijken

Kenmerk Open source-modellen opgesteld door Azure Machine Learning Transformers-modellen van de HuggingFace-hub
Modelindeling Gecureerd in MLFlow- of Triton-modelindeling voor naadloze implementatie zonder code met online- en batcheindpunten Transformers
Modelhosting Modelgewichten die worden gehost in Azure Modelgewichten worden op aanvraag opgehaald tijdens de implementatie van HuggingFace-hub.
Gebruiken in geïsoleerde netwerkwerkruimte Out-of-the-box uitgaande mogelijkheid om modellen te gebruiken. Voor sommige modellen is uitgaand naar openbare domeinen vereist voor het installeren van pakketten tijdens runtime. Uitgaand verkeer naar HuggingFace-hub, Docker-hub en hun CDN's toestaan
Ondersteuning Ondersteund door Microsoft en gedekt door SLA voor Azure Machine Learning Met HuggingFace worden modellen gemaakt en onderhouden die worden vermeld in het HuggingFace-communityregister. Gebruik HuggingFace-forum of HuggingFace-ondersteuning voor hulp.

Meer informatie