Introduktion
At bygge effektive generative AI-applikationer kræver, at man vælger den rette fundamentmodel til din specifikke anvendelse. Med tusindvis af modeller tilgængelige har du brug for en struktureret tilgang til at opdage, sammenligne, implementere og validere, at en model opfylder dine krav.
Forestil dig et scenarie, hvor du bygger en AI-drevet kundesupportchatbot for en detailvirksomhed. Du skal vælge en sprogmodel, der kan forstå kunders spørgsmål, give præcise svar og opretholde passende tone og sikkerhedsstandarder. Men hvordan vælger du fra det enorme katalog af tilgængelige modeller? Hvordan ved du, om en model fungerer godt til dine specifikke behov? Og når den først er implementeret, hvordan måler og forbedrer du dens ydeevne?
Microsoft Foundry-portalen tilbyder en omfattende platform for hele denne arbejdsgang. Du kan udforske over 1.900 modeller fra udbydere som Microsoft, Anthropic, OpenAI, Meta og Hugging Face. Du kan sammenligne modeller ved hjælp af branchestandarder for kvalitet, sikkerhed, omkostninger og ydeevne. Efter at have valgt en model, deployerer du den til et endpoint, hvor din applikation kan forbruge den. Endelig evaluerer du modellens ydeevne ved hjælp af både automatiserede målinger og manuel test for at sikre, at den opfylder dine kvalitets- og sikkerhedskrav.
I dette modul udforsker du, hvordan man bruger Microsoft Foundry-portalen til at vælge, implementere og evaluere modeller fra modelkataloget. Du lærer at træffe informerede beslutninger om modelvalg, forstå forskellige implementeringsmuligheder og vurdere modellens ydeevne ved hjælp af forskellige evalueringsmetoder.
Når du har fuldført dette modul, kan du:
- Udforsk og filtrer modeller i modelkataloget
- Sammenlign modeller ved hjælp af benchmark-målinger for kvalitet, sikkerhed, omkostninger og ydeevne
- Deploy en model til et endpoint og test den i playgrounden
- Evaluer modelpræstation ved hjælp af manuelle og automatiserede tilgange
- Forstå forskellige evalueringsmålinger og hvornår du skal bruge dem