Not
Åtkomst till denna sida kräver auktorisation. Du kan prova att logga in eller byta katalog.
Åtkomst till denna sida kräver auktorisation. Du kan prova att byta katalog.
I det snabbt föränderliga landskapet för AI-utveckling är valet av rätt modell både ett grundläggande och strategiskt beslut. Tusentals modeller är tillgängliga för distribution, och fler utvecklas och släpps regelbundet. Den här artikeln fokuserar på strategier som du kan använda för att förbättra beslutsprocessen.
Anmärkning
Om din valda modell uppfyller dina arbetsbelastningskrav kan du fortsätta att använda den. Allmänna modeller som GPT-5 kan hantera en mängd olika uppgifter effektivt. Om du fortsätter att använda en beprövad modell kan du spara värdefull utvecklingstid jämfört med att köra en lång utvärderingsprocess.
Nyckelvillkor för modellval
Flera kriterier kan påverka valet av modell. Beroende på din arbetsbelastnings unika egenskaper och organisationens prioriteringar kan vissa kriterier vara viktigare än andra. Varje kriterium fungerar som ett filter för att minska de tusentals tillgängliga modellerna till en mer hanterbar uppsättning. Följande lista sorteras efter allmän prioritet och börjar med de faktorer som vanligtvis har störst inverkan.
Uppgiftsanpassning
Fastställ syftet med modellen, till exempel chatt, resonemang, inbäddning, hämtningsförhöjd generering (RAG) eller multimodal bearbetning.
När du väljer en AI-modell väljer du en modell som har funktioner som överensstämmer med den specifika uppgift som du behöver utföra. Olika modeller är optimerade för olika funktioner. Vissa modeller utmärker sig vid bearbetning av naturligt språk, till exempel textklassificering och sammanfattning. Convolutional neurala nätverk (CNN) är idealiska för visuella data, inklusive bildklassificering och objektidentifiering. Återkommande neurala nätverk (RNN) och transformatorer stöder ljudanalys och taligenkänning. Multimodala modeller hanterar uppgifter som kombinerar text-, bild- eller ljudindata. GPT-modeller passar till exempel bra för textgenerering och förståelse. För att begränsa dina alternativ och välja en modell som ger bästa prestanda, noggrannhet och effektivitet för ditt användningsfall definierar du tydligt din uppgift. Uppgifter omfattar attitydanalys, kodgenerering eller realtidskonversation.
Överväganden för en modell jämfört med flera modeller
När du tänker på uppgiftspassning bör du ta hänsyn till arbetsbelastningens programdesign. En enda modell som uppfyller alla uppgiftskrav fungerar bäst för en enklare metod. Du kan också strukturera uppgiften i flera steg som var och en använder en modell som passar dess specifika syfte. Flera modeller är vanliga i AI-agentbaserad arbetsbelastningsdesign, särskilt när du använder AI-agentorkestreringsmönster. Du kan till exempel kombinera språktolkning, resonemang och hämtning. Den här modulära metoden ger större flexibilitet, skalbarhet och anpassningsbarhet, särskilt i dynamiska miljöer där uppgifter utvecklas eller kräver olika funktioner.
Utvärdera och välj varje modell som du inkluderar i din arbetsbelastning individuellt. Använd följande överväganden för varje modell.
Kostnadsbegränsningar
Fastställa dina budgetgränser för slutsatsdragning och distribution.
Tänk på kostnadsöverväganden när du väljer en AI-modell, särskilt när du balanserar prestanda med budgetbegränsningar. Högpresterande modeller kräver ofta betydande beräkningsresurser, vilket kan öka infrastruktur- och driftskostnaderna, särskilt i stor skala. För arbetsbelastningar som har begränsad finansiering kan modeller med öppen källkod eller förträning från molnleverantörer vara ett kostnadseffektivt alternativ som fortfarande uppfyller prestandakraven. Arbetsbelastningar som har större budgetar kan också föredra egna modeller eller anpassad träning för att främja högre precision och domänspecifika funktioner. Justera modellvalet kring en modell som maximerar avkastningen på investeringen (ROI).
Storlek på kontextfönster
Fastställa storleken på kontextfönstret som krävs för din uppgift.
När du väljer en AI-modell bör kontextfönstrets storlek ligga i linje med komplexiteten och längden på de indata som du förväntar dig att arbeta med. Generellt sett har större, kompletta modeller större kontextfönster. Dessa modeller kräver också mer beräkningsresurser och är vanligtvis långsammare när det gäller att returnera svar än mindre, specialiserade modeller. Med ett större kontextfönster kan modellen överväga mer information på en gång, till exempel längre dokument, utökade konversationer eller komplexa kodbaser, utan att förlora reda på tidigare innehåll. Den här funktionen är särskilt viktig för uppgifter som kräver sammanhängande svar, förståelse av nyanserad kontext eller refererar till tidigare delar av en konversation eller ett dokument. Omvänt kan modeller som har mindre kontextfönster vara snabbare eller mer kostnadseffektiva och passar bäst för kortare och mer fokuserade uppgifter.
Säkerhet och regelefterlevnad
Kontrollera om modellen uppfyller organisationens säkerhet och efterlevnadsstandarder och krav.
Välj en modell som överensstämmer med organisationens säkerhetsstandarder och regelskyldigheter för att minska risken och upprätthålla förtroendet. Organisationer som är verksamma inom reglerade branscher, till exempel sjukvård, ekonomi eller myndigheter, måste se till att deras modeller uppfyller standarder som GDPR (General Data Protection Regulation), Health Insurance Portability and Accountability Act (HIPAA) eller California Consumer Privacy Act (CCPA). De måste välja modeller som ger robust dataskydd, säkra distributionsalternativ och transparens i beslutsprocesser. Modeller med öppen källkod kan ge bättre tolkning och kontroll, medan egna modeller kan ge starkare inbyggda skydd och stöd för efterlevnadscertifieringar.
Tillgänglighet i regionen
Kontrollera om du kan distribuera modellen i samma region som dina andra arbetsbelastningsresurser.
Begränsad regional tillgänglighet kan avsevärt påverka valet av AI-modell, särskilt när du överväger svarstider, datahemvist och efterlevnadskrav. Vissa modeller hanteras endast i specifika geografiska regioner, vilket kan påverka prestanda för användare på andra platser på grund av ökade svarstider. Arbetsbelastningar som omfattas av regionala dataskyddslagar, till exempel GDPR i Europa eller CCPA i Kalifornien, måste se till att den valda modellen uppfyller lokala regler för datalagring och bearbetning.
Implementeringsstrategi
Kontrollera om du kan vara värd för modellen på serverlös eller hanterad infrastruktur, din egen infrastruktur eller direkt på en enhet.
Modeller måste distribueras på beräkningsenheter innan de kan användas. Den beräkningskraften kan komma från din molnleverantör på delad infrastruktur med andra molnkunder, eller så kan den vara lokal för den arbetsbelastning du hanterar, som att köras i en process inom din kod. Vissa modeller som är tillgängliga via en serverlös plattform från providern, som ibland kallas modeller som en tjänst (MaaS), är antingen för stora eller inte licensierade för distribution i din egen beräkning. Leverantörens värd har inte stöd för vissa specialiserade modeller, så du kan bara köra dem i din egen slutsatsdragningsmiljö.
Dina arbetsbelastningskrav begränsar vad alternativen för beräkningsplattformen är för varje uppgift. Den här begränsningen begränsar effektivt vilka modeller som kan användas baserat på var de kan distribueras för att uppfylla kraven på effektivitet, kostnad och efterlevnad. Beroende på vilken värd som är tillgänglig kan du också ha ett val i SDK för att utföra slutsatsdragning mot den modellen. Vissa plattformar tillhandahåller en enhetlig SDK som stöder anrop av alla värdbaserade modeller. Andra beräkningsplattformar kräver att du använder SDK:et som skapats av modellens leverantör.
Domänspecifikhet
Kontrollera om modellen är förtränad med data som är relevanta för din bransch, till exempel ekonomi eller sjukvård.
En AI-modell som är förtränad med data som är relevanta för din bransch, till exempel sjukvård, ekonomi eller juridik, kan ge betydande fördelar när det gäller noggrannhet, effektivitet och kontextuell förståelse. Dessa modeller tränas på domänspecifik terminologi, regelmässiga nyanser och vanliga arbetsflöden. Den här utbildningen minskar behovet av omfattande omträning och finjustering. Därför kan de leverera mer exakta förutsägelser, generera mer relevant innehåll och stödja snabbare distribution i verkliga program. Branschspecifik förträning bidrar också till att säkerställa efterlevnad och förbättrar tillförlitligheten, särskilt inom områden som prioriterar precision och tillförlitlighet.
Performance
Fastställ hur snabba och korrekta dina svar måste vara.
Varje AI-modell har inbyggda prestandagränser och hur du är värd för modellen kan införa extra begränsningar. Både modellen och dess värdkonfiguration avgör hur snabbt den kan svara och hur många begäranden den kan hantera samtidigt. Beroende på hur ditt system eller program använder modellen måste du antingen välja en modell som passar systemets krav eller justera systemet så att det matchar vad modellen kan hantera realistiskt.
Du vill vanligtvis välja en modell som uppfyller dina kvalitetsstandarder samtidigt som du svarar så snabbt som möjligt. Den bör också finnas på ett sätt som stöder den förväntade mängden begäranden utan att orsaka fördröjningar eller försämra användarupplevelsen.
Anmärkning
Vissa övergripande problem, till exempel implementering av ansvarsfulla AI-principer, kan medföra extra prestandabegränsningar. Du bör inkludera dessa begränsningar i utvärderingen, men de bör inte påverka ditt modellval.
Modelljusterbarhet
Bestäm hur mycket anpassning du behöver.
Vissa AI-modeller tillhandahåller många hyperparametrar som du kan justera för att uppfylla dina programbehov. Exempel är djupa neurala nätverk och toningshöjande datorer. Dessa modeller ger detaljerad kontroll över parametrar som inlärningshastighet och arkitektur, vilket gör dem idealiska för uppgifter med höga insatser där noggrannhet är avgörande. Alternativt är enklare modeller som linjär regression eller beslutsträd enklare att distribuera och tolka, vilket gör dem lämpliga för mindre datamängder, användningsfall i realtid eller team som har begränsad maskininlärningsupplevelse. Justermöjlighet påverkar också generalisering. Alltför komplexa modeller riskerar överanpassning, medan enklare modeller kan vara underanpassade men ger stabilare prestanda. Tänk också på resursbegränsningar eftersom mycket justerbara modeller ofta kräver mer träningstid, minne och automatiserade justeringsverktyg.
Andra faktorer
De tidigare kriterierna är ofta nära anpassade till arbetsbelastningens funktionella och icke-funktionella krav. Men andra faktorer är ibland relevanta för din beslutsprocess. Dessa faktorer är vanligtvis den lägsta prioriteten för de flesta arbetsbelastningar, men din arbetsbelastning kan ge dem större betydelse i specifika situationer. Följande faktorer kan också påverka beslut om val av modell:
- Licenstyp
- Flerspråkiga funktioner
- Supportplan (community eller betald)
- Rapportering om hållbarhet och miljöpåverkan
- Uppdatera livscykeln (buggkorrigeringar och modellrevisioner) och pensionsstrategi
Icke-kriterier för modellval
Ta inte med följande faktorer i ditt beslutsfattande eftersom de sällan överensstämmer med arbetsbelastningens funktionella eller icke-funktionella krav:
- Kulturell popularitet
- Utgivaren, till exempel OpenAI, Meta, Microsoft, xAI och andra
Förfina modellvalet
Använd en katalog som katalogerna i Hugging Face-, Foundry Models- och GitHub-modeller för att effektivt tillämpa urvalskriterierna. Dessa tjänster tillhandahåller filter som överensstämmer med många av de tidigare beslutskriterierna, till exempel uppgifter, som hjälper dig att minska antalet modeller att välja mellan.
Utvärdering och benchmarking
Om du vill utföra en utvärdering av AI-modellen sida vid sida börjar du med att definiera en tydlig uppsättning kriterier baserat på programmets specifika behov, till exempel noggrannhet, hastighet, kostnad, kontextkvarhållning och utdatakvalitet. Kör sedan kandidatmodeller på samma representativa datauppsättning eller uppsättning uppgifter för att säkerställa konsekventa indata- och utvärderingsvillkor. Jämför utdata både kvalitativt och kvantitativt med hjälp av mått som relevans, konsekvens, svarstid och användarnöjdhet. Det är också bra att involvera intressenter eller användare i utvärderingsprocessen för att samla in feedback om vilken modell som bäst överensstämmer med verkliga förväntningar. Den här strukturerade metoden hjälper dig att fatta ett välgrundat beslut om vilken modell som passar bäst för ditt användningsfall.
Du kan också använda verktyg som Hugging Face benchmark-samlingar för att utvärdera modeller för språkstöd, resonemang och säkerhet. Läs flera referenskällor för att lära dig hur specifika modeller presterar i en mängd olika verkliga scenarier. Den här metoden minskar risken för bias från en enskild modellvärd.
Din modellvärd kan tillhandahålla inbyggda utvärderingsverktyg på deras plattform, och vi rekommenderar att du drar nytta av dem. Mer information finns i Utvärdera generativa AI-modeller med hjälp av Microsoft Foundry.
Finjustering och destillation
I många fall måste du göra vissa finjusteringar för att träna din modell på din datauppsättning. Det här kravet kan påverka ditt modellval eftersom vissa modeller inte stöder finjustering. Destillation syftar på att använda en modell som tränats på din datamängd för att träna en annan modell som ofta är mindre och mer specialiserad. Med den här metoden kan du skapa en effektivare arbetsbelastning genom att öka prestandan och minska kostnaderna. Precis som med finjustering stöder vissa modeller inte destillation, så tänk på det här kravet när du planerar din arbetsbelastningsdesign.
Planera för modelländringar
Att välja en modell är inte en engångsaktivitet. I konceptbeviset (POC) eller prototypfasen kan du välja en gränsmodell för att påskynda bygget. När du flyttar till produktion kan en mer specialiserad modell eller till och med en liten språkmodell passa bättre. När din arbetsbelastning utvecklas kanske den modell som du valde inte fungerar som förväntat, eller så kanske dina planerade funktioner inte stämmer överens med den modellen. För att hålla jämna steg med marknadsframstegen kan du också regelbundet behöva ersätta din modell med nyare versioner. Mer information om livscykelöverväganden för modeller finns i Design för att stödja grundläggande modelllivscykler.
Om du vill framtidssäkra din arkitektur bör du tänka på följande riskminimerande metoder:
Använd abstraktionslager som Azure AI Inference SDK för att undvika inlåsning hos leverantör.
Testa modeller parallellt genom att växla miljövariabler och jämföra utdata.
Undvik ogenomskinlig routning såvida inte observerbarhet och spårbarhet garanteras.