Komponenter i ett AI-program

  • 3 minuter

Microsoft stöder varje lager i ett AI-program: dataskiktet, modellskiktet, beräkningslagret och orkestreringslagret.

Datalager

Datalagret är grunden för alla AI-program. Den innehåller insamling, lagring och hantering av data som används för utbildning, slutsatsdragning och beslutsfattande. Vanliga datakällor är strukturerade databaser som Azure SQL och PostgreSQL, ostrukturerade data, till exempel dokument och bilder och realtidsströmmar. Azure-tjänster som Cosmos DB och Azure Data Lake används ofta för att lagra och hantera storskaliga datamängder effektivt.

Microsoft erbjuder databaser som paaS (Platform-as-a-Service). Plattformstjänster är hanterade molntjänster som utgör de grundläggande byggstenarna för att utveckla, distribuera och köra program utan att kräva att användarna hanterar den underliggande infrastrukturen. PaaS finns mellan IaaS (Infrastructure-as-a-Service) och Software-as-a-Service (SaaS) i molntjänstmodellen.

Modellskikt

Modelllagret omfattar val, träning och distribution av maskininlärnings- eller AI-modeller. Modeller kan förtränas (till exempel Azure OpenAI i Foundry Models) eller specialbyggda med plattformar som Azure Machine Learning. Det här lagret innehåller även verktyg för finjustering, utvärdering och versionshantering för att säkerställa att de uppfyller prestanda- och noggrannhetskraven. Microsoft Foundry, en enhetlig Azure-plattform som en tjänst för AI-företagsåtgärder, tillhandahåller en omfattande modellkatalog för programutvecklare.

Beräkningslager

AI-program kräver beräkningsresurser för att träna och köra modeller. Microsoft har flera plattformsalternativ:

  • Azure App Service för värdtjänster för webbappar och API:er.
  • Azure Functions för serverlös, händelsedriven körning av AI-uppgifter.
  • Containrar för skalbar och bärbar distribution av AI-modeller och -tjänster. Azure Container Instances (ACI) erbjuder enkel, serverlös containerkörning, perfekt för AI-arbetsbelastningar som behöver snabb distribution och enkel skalning. Azure Kubernetes Service (AKS) är en fullständigt hanterad Kubernetes-tjänst som tillhandahåller orkestrering på företagsnivå för AI-arbetsbelastningar.

Anmärkning

Api:er (Application Programming Interfaces) definierar den information som krävs för att den ena komponenten ska kunna använda den andras tjänster. API:er gör det möjligt för programvarukomponenter att kommunicera på ett säkert sätt.

Integrerings- och orkestreringslager

Integrerings- och orkestreringslagret kopplar ihop modeller och data med affärslogik och användargränssnitt. Foundry spelar en nyckelroll här genom att erbjuda:

  • En agenttjänst för att skapa intelligenta agenter som kan resonera och agera.
  • AI-verktyg som tal-, visions- och språk-API:er.
  • Software Development Kits (SDK:er) och API:er för integrering av AI-funktioner i program.
  • Portalverktyg för att hantera modeller, agenter och arbetsflöden.

Genom att använda Foundry för att skapa sina program kan utvecklare bädda in intelligens direkt i datalagret för smartare och mer dynamiska program. Nu ska vi ta en närmare titt på Foundry.