Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of mappen te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen om mappen te wijzigen.
In dit artikel vindt u aanbevelingen voor beheer voor organisaties die AI-workloads uitvoeren op Azure. Het richt zich op Azure PaaS-oplossingen (Platform-as-a-Service) voor AI.
AI-implementaties beheren
Consistente implementatieconfiguraties verbeteren de beveiliging, naleving en operationele efficiëntie in alle AI-omgevingen. Organisaties die hun implementatiebenadering standaardiseren, verminderen configuratiedrift en zorgen voor betrouwbare prestaties. U moet systematische implementatieprocedures implementeren die overeenkomen met uw bedrijfsvereisten. U doet dit als volgt:
Implementeren in regio's die voldoen aan uw vereisten. De plaatsing van modellen is afhankelijk van specifieke latentie, doorvoer en nalevingsvereisten die optimale prestaties bepalen. Controleer de Azure regio productbeschikbaarheid tabel om ondersteuning te bevestigen voor vereiste hardware, functies en regels voor gegevenslocatie vóór de implementatie om prestaties en regelgeving te garanderen.
Bewaak continu AI-implementatiebronnen. Resourcebewaking legt prestatiegegevens vast en identificeert problemen voordat ze van invloed zijn op gebruikers. Met diagnostische instellingen worden logboeken en metrische gegevens vastgelegd voor alle belangrijke services, waaronder Foundry en Foundry Tools. Deze bewaking biedt inzicht in de systeemstatus en maakt proactieve oplossing van problemen mogelijk.
Beheer implementatiebronnen centraal. Gecentraliseerd resourcebeheer biedt consistent toezicht en controle over alle AI-implementaties. Gebruik bijvoorbeeld het Microsoft Foundry Control Plane om het beheer voor uw AI-agentpark te centraliseren. Deze aanpak zorgt voor gestandaardiseerde resourcetoewijzing en kostenbeheer. Beheer ook de kosten in Foundry.
Gebruik Azure API Management als een geïntegreerde gateway voor meerdere implementaties. API Management biedt consistente beveiliging, schaalbaarheid, snelheidsbeperking, tokenquota en gecentraliseerde bewaking bij het onboarden van meerdere toepassingen of teams. Deze aanpak standaardiseert toegangspatronen en vermindert de beheeroverhead voor uw AI-services.
AI-modellen beheren
Modelbewaking zorgt ervoor dat uitvoer wordt afgestemd op verantwoorde AI-principes en dat de nauwkeurigheid in de loop van de tijd behouden blijft. AI-modellen ervaren drift als gevolg van veranderende gegevens, gebruikersgedrag of externe factoren die kunnen leiden tot onnauwkeurige resultaten of ethische problemen. U moet continue bewaking implementeren om deze wijzigingen proactief te detecteren en aan te pakken. U doet dit als volgt:
Modeluitvoer bewaken voor kwaliteit en uitlijning. Bewakingsprocessen zorgen ervoor dat workloads worden afgestemd op verantwoorde AI-doelen en verwachte resultaten leveren. Gebruik de waarneembaarheidsfuncties van Foundry en bewaak toepassingen. Voor Foundry Agent Service controleert u agentimplementaties.
Houd continu metrische gegevens voor modelprestaties bij. Prestatiebewaking helpt problemen vast te stellen wanneer nauwkeurigheid of responskwaliteit onder acceptabele drempelwaarden daalt. Controleer latentie in reactietijden en nauwkeurigheid van vectorzoekresultaten via tracering in Foundry.
Overweeg om een generatieve AI-gateway te implementeren voor verbeterde bewaking. Azure API Management maakt logboekregistratie- en bewakingsmogelijkheden mogelijk die platformen niet systeemeigen bieden, waaronder bron-IP-verzameling, tracering van invoertekst en analyse van uitvoertekst. Deze aanpak biedt uitgebreide audittrails en bewakingsgegevens.
Kies compute. In Foundry ondersteunen rekenresources essentiële modelimplementaties en afstemming. Standaardiseer rekentypen, runtimes en afsluitperioden voor rekeninstanties, clusters en serverloze opties.
AI-gegevens beheren
De gegevenskwaliteit bepaalt de nauwkeurigheid en betrouwbaarheid van ai-modeluitvoer. Organisaties die gegevensstandaarden van hoge kwaliteit handhaven, zorgen voor betere modelprestaties en verminderen het risico op vooroordelen of onnauwkeurige resultaten. U moet systematische procedures voor gegevensbeheer implementeren om een consistente modelkwaliteit te garanderen. U doet dit als volgt:
Bewaak continu gegevensdrift. Detectie van gegevensdrift identificeert wanneer invoergegevenspatronen veranderen van trainingsbasislijnen, waardoor modelprestaties na verloop van tijd kunnen afnemen. Houd nauwkeurigheid en gegevensdrift bij in zowel generatieve als niet-generatieve AI-workloads om ervoor te zorgen dat modellen relevant en responsief blijven op de huidige omstandigheden. Gebruik evaluaties in Foundry om bewakingsbasislijnen en detectiedrempels vast te stellen.
Automatische waarschuwingen instellen voor prestatievermindering. Waarschuwingssystemen bieden vroegtijdige waarschuwingen wanneer de modelprestaties onder acceptabele drempelwaarden vallen, waardoor proactieve interventie mogelijk is voordat problemen van invloed zijn op gebruikers. Configureer aangepaste waarschuwingen om prestatiedeviaties te detecteren en herstelwerkstromen te activeren wanneer voor modellen hertraining of aanpassing is vereist.
Zorg voor kwaliteitsstandaarden voor gegevensverwerking. Vereisten voor gegevensvoorbereiding verschillen tussen typen AI-werkbelastingen, maar moeten consistente kwaliteitsnormen handhaven voor alle implementaties. Structureer voor generatieve AI gegevens in de juiste indeling met de juiste segmentering, verrijking en insluiting voor optimaal AI-modelverbruik. Zie Handleiding voor het ontwerpen en ontwikkelen van een RAG-oplossing voor meer informatie.
Bedrijfscontinuïteit implementeren
Bedrijfscontinuïteit zorgt ervoor dat AI-services beschikbaar blijven tijdens regionale storingen of serviceonderbrekingen. Serviceonderbrekingen kunnen van invloed zijn op kritieke bedrijfsactiviteiten die afhankelijk zijn van AI-mogelijkheden, waardoor continuïteitsplanning essentieel is voor tolerantie van de organisatie. U moet implementatiestrategieën voor meerdere regio's implementeren om de beschikbaarheid van services te behouden. U doet dit als volgt:
AI-services implementeren in meerdere regio's. Implementaties in meerdere regio's bieden redundantie die de beschikbaarheid van de service behoudt wanneer afzonderlijke regio's te maken hebben met storingen of capaciteitsbeperkingen. Implementeer implementatiestrategieën voor meerdere regio's voor Foundry om consistente servicelevering te garanderen.
Configureer geautomatiseerde failovermechanismen. Automatische failover vermindert de hersteltijd en zorgt voor continue servicelevering wanneer primaire regio's niet meer beschikbaar zijn. Stel verkeersroutering en taakverdeling tussen regio's in om naadloze overgangen mogelijk te maken tijdens serviceonderbrekingen.