Özet
Tip
Daha fazla ayrıntı için Metin ve resimler sekmesine bakın!
Bu modülde DökümHane Modellerini seçme, dağıtma ve değerlendirmeye yönelik iş akışının tamamını incelediniz. Karşılaştırmaları kullanarak model seçimi hakkında bilinçli kararlar alma, uç noktalara model dağıtma ve çeşitli değerlendirme yaklaşımlarını kullanarak performanslarını değerlendirme hakkında bilgi edinmişsinizdir.
Önemli çıkarımlar
Microsoft Foundry portalının model kataloğu Microsoft, OpenAI, Meta, Mistral ve Hugging Face gibi sağlayıcılardan 1.900'den fazla modele access sağlar. Koleksiyona, özelliklere, dağıtım seçeneklerine ve diğer özniteliklere göre etkili filtreleme, kataloğu gereksinimlerinize uygun modellere daraltmanıza yardımcı olur.
Model karşılaştırmaları , kalite, güvenlik, maliyet ve performans boyutları arasında objektif karşılaştırmalar sunar. Doğruluk, tutarlılık ve akıcılık gibi kalite ölçümleri, modellerin uygun yanıtları ne kadar iyi ürettiğini değerlendirir. Güvenlik ölçümleri zararlı içerikle ilgili riskleri belirler. Maliyet karşılaştırmaları, bütçe kısıtlamalarıyla kaliteyi dengelemeye yardımcı olur. Gecikme süresi ve aktarım hızı gibi performans ölçümleri, gerçek zamanlı uygulamalar için yanıt verme hızını gösterir.
Dağıtım seçenekleri arasında çağrı başına ödeme esnekliği için sunucusuz API, tutarlı yüksek hacimli iş yükleri için sağlanan dağıtımlar, VM tabanlı barındırma için yönetilen işlem ve maliyet açısından iyileştirilmiş etkileşimli olmayan işler için toplu işlem yer alır. Her seçenek ölçeklendirme, faturalama ve denetim için farklı özellikler sunar.
Oyun alanında test, kod yazmadan model davranışı hakkında anında geri bildirim sağlar. Uygulamalarla tümleştirmeden önce istemlerle denemeler yapabilir, parametreleri ayarlayabilir ve model özelliklerini anlamak için yanıtları gözlemleyebilirsiniz.
Değerlendirme yaklaşımları , el ile testten otomatik ölçümlere kadar değişir. El ile değerlendirme, kullanıcı memnuniyeti ve bağlamsal uygunluk gibi öznel kalite yönlerini yakalar. Yapay zeka destekli ölçümler, üretim kalitesi ve güvenlik risklerini otomatik olarak değerlendirir. F1 puanı ve ROUGE gibi NLP ölçümleri, temel gerçeklik verileriyle matematiksel karşılaştırma sağlar.
Microsoft Foundry portalındaki kapsamlı değerlendirme akışları, test veri kümelerini ve birden çok ölçümü kullanarak sistematik değerlendirmeler çalıştırmanıza olanak tanır. Sonuçlar, geliştirme gerektiren güçlü yanları, zayıf noktaları ve alanları belirleyerek, üretken yapay zeka uygulamalarınızın yinelemeli geliştirilmesine yol gösterir.
Sonraki Adımlar
Dağıtılan ve değerlendirilen modeller için aşağıdaki adımları göz önünde bulundurun:
Microsoft Foundry portalında sağlanan SDK'ları, REST API'leri ve kod örneklerini kullanarak modelleri uygulamalarla tümleştirin. Uygulamalarınız artık kimliği doğrulanmış API çağrıları aracılığıyla dağıtılan modelleri kullanabilir.
Model yanıtlarını kuruluşunuzun verilerine dayandırmak için Öğrenme Takviyeli Üretim (RAG) uygulayın. RAG, belgelerinize ve bilgi bankalarınıza göre doğru, bağlamsal olarak ilgili yanıtlar sağlamak için modelleri arama özellikleriyle birleştirir.
Azure Yapay Zeka İçerik Güvenliği hizmetlerini uygula zararlı içeriğe karşı ek bir koruma katmanı eklemek için. İçerik filtreleri, model düzeyinde güvenlik özelliklerini tamamlayan uygunsuz girişleri ve çıkışları engelleyebilir.
Özel senaryoların performansını artırmak için belirli etki alanınızda veya kullanım örneğinizde modellerde ince ayar yapın (desteklendiğinde). hassas ayarlama, genel amaçlı modelleri benzersiz gereksinimlerinize uyarlar.
Üretim performansını izlemek için kullanımı, gecikme süresini, maliyetleri ve hataları takip etmek amacıyla Azure İzleyici ve Application Insights kullanın. Devam eden izleme, uygulamalarınızın iyi durumda ve performanslı kalmasını sağlar.
Gerçek dünya kullanım verilerini toplayarak ve düzenli olarak yeniden değerlendirmeler yaparak kullanıcı geri bildirimlerine göre yineleme yapın. Sürekli iyileştirme, üretken yapay zeka uygulamalarınızı kullanıcı gereksinimleriyle uyumlu tutar.
Bu modülde geliştirdiğiniz beceriler (uygun modelleri seçme, bunları etkili bir şekilde dağıtma ve performanslarını değerlendirme) Microsoft Foundry kullanarak sağlam, yüksek kaliteli üretken yapay zeka uygulamaları oluşturmanın temelini oluşturur.