Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Bu makalede, Azure üzerinde yapay zeka iş yükleri çalıştıran kuruluşlar için yönetim önerileri sunulmaktadır. Yapay zeka için Azure hizmet olarak platform (PaaS) çözümlerine odaklanır.
Yapay zeka dağıtımlarını yönetme
Tutarlı dağıtım yapılandırmaları tüm yapay zeka ortamlarında güvenliği, uyumluluğu ve operasyonel verimliliği artırır. Dağıtım yaklaşımlarını standartlaştıran kuruluşlar yapılandırma kaymasını azaltır ve güvenilir performans sağlar. İş gereksinimlerinize uygun sistematik dağıtım uygulamaları uygulamanız gerekir. Şunu yapabilirsiniz:
Gereksinimlerinizi karşılayan bölgelere dağıtın. Model yerleşimi, en iyi performansı belirleyen belirli gecikme süresi, aktarım hızı ve uyumluluk gereksinimlerine bağlıdır. Performans ve mevzuat uyumluluğundan emin olmak için dağıtımdan önce gerekli donanım, özellikler ve veri yerleşimi kurallarının desteğini onaylamak için Azure bölge ürün kullanılabilirliği tablosunu denetleyin.
Yapay zeka dağıtım kaynaklarını sürekli izleyin. Kaynak izleme, performans verilerini yakalar ve sorunları kullanıcıları etkilemeden önce tanımlar. Tanılama ayarları, Foundry Tools da dahil olmak üzere tüm önemli hizmetler için günlükleri ve ölçümleri yakalar. Bu izleme, sistem durumuyla ilgili görünürlük sağlar ve proaktif sorun çözümü sağlar.
Dağıtım kaynaklarını merkezi olarak yönetin. Merkezi kaynak yönetimi, tüm yapay zeka dağıtımlarında tutarlı gözetim ve denetim sağlar. Örneğin, yapay zeka aracısı filonuzun yönetimini merkezileştirmek için Microsoft DökümHane Kontrol Düzlemi'ni kullanın. Bu yaklaşım standartlaştırılmış kaynak ayırma ve maliyet denetimi sağlar. Ayrıca Foundry'de maliyetleri yönetin.
Azure API Management kullanın. API Management, birden çok uygulama veya ekip eklerken tutarlı güvenlik, ölçeklenebilirlik, hız sınırlama, belirteç kotaları ve merkezi izleme sağlar. Bu yaklaşım, erişim desenlerini standartlaştırır ve yapay zeka hizmetlerinizde yönetim yükünü azaltır.
Yapay zeka modellerini yönetme
Model izleme, çıkışların Sorumlu yapay zeka ilkeleriyle uyumlu olmasını ve zaman içinde doğruluğu korumasını sağlar. Yapay zeka modellerinde yanlış sonuçlara veya etik sorunlara yol açabilecek değişen veriler, kullanıcı davranışları veya dış faktörler nedeniyle kayma yaşanıyor. Bu değişiklikleri önceden algılamak ve ele almak için sürekli izleme uygulamanız gerekir. Şunu yapabilirsiniz:
Model çıkışlarını izleyin. İzleme süreçleri, iş yüklerinin sorumlu yapay zeka hedefleriyle uyumlu kalmasını ve beklenen sonuçları sunmasını sağlar. Foundry'nin gözlemlenebilirlik özelliklerini kullanın. Foundry Agent Hizmeti için aracı dağıtımlarını izleyin.
Model performansını izleyin. Performans izleme, doğruluk veya yanıt kalitesi kabul edilebilir eşiklerin altına düştüğünde sorunları belirlemeye yardımcı olur. Foundry'de izleme yoluyla yanıt sürelerindeki gecikme süresini ve vektör arama sonuçlarının doğruluğunu izleyin.
Gelişmiş izleme için üretken bir yapay zeka ağ geçidi uygulamayı göz önünde bulundurun. Azure API Management, platformların yerel olarak sağlamadığı kaynak IP toplama, giriş metin izleme ve çıkış metin analizi gibi günlük kaydı ve izleme yeteneklerini etkinleştirir. Bu yaklaşım kapsamlı denetim izleri ve izleme verileri sağlar.
Hesaplamayı seçin. Foundry'de işlem kaynakları temel model dağıtımlarını ve ince ayarlamayı destekler. İşlem örnekleri, kümeler ve sunucusuz seçenekler arasında işlem türlerini, çalışma zamanlarını ve kapatma sürelerini standartlaştırın.
Yapay zeka verilerini yönetme
Veri kalitesi, yapay zeka modeli çıkışlarının doğruluğunu ve güvenilirliğini belirler. Yüksek kaliteli veri standartlarını koruyan kuruluşlar daha iyi model performansı elde ederler ve yanlı veya yanlış sonuçlar riskini azaltır. Tutarlı model kalitesi sağlamak için sistematik veri yönetimi uygulamaları uygulamanız gerekir. Şunu yapabilirsiniz:
Veri kayma durumunu sürekli izleyin. Veri kayması algılama, giriş veri desenlerinin eğitim temellerinden ne zaman değiştiğini belirler ve bu da zaman içinde model performansını düşürebilir. Modellerin geçerli koşullara uygun ve duyarlı kalmasını sağlamak için hem üretken hem de yaratıcı olmayan yapay zeka iş yüklerinde doğruluğu ve veri kaymasını izleyin. İzleme temelleri ve algılama eşikleri oluşturmak için Foundry'deki değerlendirmeleri kullanın.
Performans düşüşü için otomatik uyarılar ayarlayın. Uyarı sistemleri, model performansı kabul edilebilir eşiklerin altına düştüğünde erken uyarı sağlar ve sorunlar kullanıcıları etkilemeden önce proaktif müdahaleyi etkinleştirir. Modeller yeniden eğitme veya ayarlama gerektirdiğinde performans sapmalarını algılamak ve düzeltme iş akışlarını tetiklemek için özel uyarılar yapılandırın.
Kaliteli veri işleme standartlarını güvence altına alma. Veri hazırlama gereksinimleri yapay zeka iş yükü türleri arasında farklılık gösterir ancak tüm uygulamalarda tutarlı kalite standartlarının korunması gerekir. Üretken yapay zeka için, en uygun yapay zeka modeli tüketimi sağlamak amacıyla verilerinizi doğru formatta yerleştirerek, uygun kümeleme, zenginleştirme ve gömme işlemleriyle yapılandırın. Daha fazla bilgi için bkz . RAG çözümü tasarlama ve geliştirme kılavuzu.
İş sürekliliğini uygulama
İş sürekliliği, bölgesel kesintiler veya hizmet kesintileri sırasında yapay zeka hizmetlerinin kullanılabilir durumda kalmasını sağlar. Hizmet kesintileri, yapay zeka özelliklerine bağlı olan kritik iş operasyonlarını etkileyebilir ve bu da kurumsal dayanıklılık için süreklilik planlamasının gerekli olmasına neden olur. Hizmet kullanılabilirliğini korumak için çok bölgeli dağıtım stratejileri uygulamanız gerekir. Şunu yapabilirsiniz:
Yapay zeka hizmetlerini birden çok bölgeye dağıtın. Çok bölgeli dağıtımlar, tek tek bölgelerde kesintiler veya kapasite kısıtlamaları yaşandığında hizmet kullanılabilirliğini koruyan yedeklilik sağlar. Tutarlı hizmet teslimi sağlamak için Foundry için çok bölgeli dağıtım stratejileri uygulayın.
Otomatik yük devretme mekanizmalarını yapılandırın. Otomatik yük devretme, kurtarma süresini azaltır ve birincil bölgeler kullanılamaz hale geldiğinde kesintisiz hizmet teslimi sağlar. Hizmet kesintileri sırasında sorunsuz geçişler sağlamak için bölgeler arasında trafik yönlendirme ve yük dengeleme ayarlayın.