GitHub Modellerinden Microsoft Foundry Modellerine yükseltme (klasik)

Uyarı

Bu belge , Microsoft Foundry (klasik) portalını ifade eder.

Yeni portal hakkında bilgi edinmek için Microsoft Foundry (yeni) belgelerini görüntüleyin.

Bu makalede, GitHub Modellerinden başlayarak üretken bir yapay zeka uygulaması geliştirmeyi öğrenecek ve ardından Microsoft Foundry Models ile bir Döküm Araçları kaynağı dağıtarak deneyiminizi yükselteceksiniz.

GitHub Modelleri yapay zeka modellerini ücretsiz olarak bulmak ve denemek istediğinizde, üretken bir yapay zeka uygulaması geliştirirken kullanışlıdır. Uygulamanızı üretime getirmeye hazır olduğunuzda, Azure aboneliğinde bir Döküm Araçları kaynağı dağıtarak deneyiminizi yükseltin ve DökümHane Modelleri'ni kullanmaya başlayın. Kodunuzda başka hiçbir şeyi değiştirmeniz gerekmez.

GitHub Model için deneme alanı ve ücretsiz API kullanımı, dakika başına istekler, günlük istekler, istek başına belirteçler ve eşzamanlı istekler ile oranla sınırlıdır. Hız sınırlaması alırsanız, daha fazla istekte bulunabilmeniz için önce isabet ettiğiniz hız sınırının sıfırlanmasını beklemeniz gerekir.

Önkoşullar

Şunlara sahip olmanız gerekir:

• GitHub Models erişimi olan bir GitHub hesabı.
• Geçerli bir ödeme yöntemine sahip Azure aboneliği. Azure aboneliğiniz yoksa başlamak için bir paid Azure hesabı oluşturun. Alternatif olarak, modelinizi üretim ortamına dağıtmaya hazır olana kadar bekleyebilirsiniz. Bu noktada, Azure hesabınızı oluşturmanız veya standart bir hesaba güncelleştirmeniz istenir.
• Ortaklardan ve topluluktan gelen Foundry Modelleri, Azure Market'e erişim gerektirir. Model tekliflerine abone olmak için gereken izinlere sahip olduğunuzdan emin olun. Azure tarafından doğrudan satılan Foundry Modelleri bu gereksinime sahip değildir.

DökümHane Modellerine Yükseltme

Oyun alanının hız sınırları ve ücretsiz API kullanımı, modellerle denemeler yapıp yapay zeka uygulamanızı geliştirmenize yardımcı olur. Uygulamanızı üretime getirmeye hazır olduğunuzda ücretli bir Azure hesabından anahtar ve uç nokta kullanın. Kodunuzda başka hiçbir şeyi değiştirmeniz gerekmez.

Uyarı

GitHub Modelleri, hız sınırlarıyla ücretsizdir. DökümHane Modelleri'ne yükselttikten sonra kullanım, seçtiğiniz deployment türü temelinde Azure aboneliğinize faturalandırılır.

Anahtarı ve uç noktayı almak için:

1. GitHub Models adresine gidin ve deneme ortamına ulaşmak için bir model seçin. Bu makalede Mistral Medium 3 (25.05) kullanılır.

2. Oyun alanında modelle etkileşime geçmek için bazı istemler yazın veya önerilen istemlerden bazılarını kullanın.

3. Deneme alanından Bu modeli kullan öğesini seçin. Bu eylem , "Kod tabanınızdaki Modelleri kullanmaya başlama" penceresi açar.

4. "Kimlik doğrulamasını yapılandırma" adımında,"Azure AI" bölümünden Microsoft Foundry anahtarını edinin seçin.

   

5. Azure hesabınızda zaten oturum açtıysanız bu adımı atlayın. Ancak Azure hesabınız yoksa veya hesabınızda oturum açmadıysanız şu adımları izleyin:

   1. Azure hesabınız yoksa Hesabımı oluştur öğesini seçin ve bir hesap oluşturmak için adımları izleyin.

   2. Alternatif olarak, Azure hesabınız varsa Yeniden oturum açın seçeneğini belirleyin. Mevcut hesabınız ücretsiz bir hesapsa, önce standart bir plana yükseltmeniz gerekir.

   3. Model Oyun Alanı’na geri dönün ve Microsoft Foundry anahtarını al seçeneğini yeniden seçin.

   4. Azure hesabınızda oturum açın.

6. Foundry > GitHub adresine yönlendirilirsiniz ve bir Dökümhane projesinin giriş sayfasına yönlendirilirsiniz.

   Tavsiye

   Foundry (klasik) deneyimine iniş yaparsanız, yeni Foundry deneyimine geçmek için sağ üst navigasyon çubuğundaki Yeni Dökümhane değiştiricisini etkinleştirin.

7. Seçtiğiniz modeli dağıtmak, Playground'ta test etmek ve dağıtılan modeli kodla çıkarım yapmak için Modeli dağıtma'daki adımları izleyin.

8. Playground'da bir test istemi göndererek dağıtımın çalıştığını doğrulayın. Yanıt alırsanız modeliniz koddan kullanıma hazırdır.

Önemli

Tüm modellerin zaten yapılandırılmış olduğu GitHub Modellerinin aksine, Foundry Araçları kaynağı uç noktanızda hangi modellerin kullanılabilir olduğunu ve hangi yapılandırmanın altında olduğunu denetlemenizi sağlar. parametresinde belirtmeden önce, kullanmayı planladığınız kadar modeli ekleyin. Kaynağınıza daha fazla model eklemeyi öğrenin.

Ek özellikleri keşfetme

Döküm Modelleri, GitHub Modellerinde bulunmayan özellikleri destekler:

• Model kataloğu — Azure, iş ortakları ve açık kaynak topluluğunun modellerine göz atın, karşılaştırın ve değerlendirin.
• Keyless authentication — API anahtarlarını yönetmeden belirteç tabanlı kimlik doğrulaması için Microsoft Entra ID kullanın.
• İçerik filtreleme — Dağıtımlarınız için içerik güvenliği filtrelerini yapılandırın.
• Hız sınırlama — Kaynağınızdaki belirli modeller için özel hız sınırları ayarlayın.
• Dağıtım türleri — Token başına ödeme, önceden ayrılan ve toplu iş gibi birden çok dağıtım SKU'sundan seçin.

Yaygın sorunları giderme

Sorun	Çözüm
Bölgenizde model kullanılamıyor	Modelin bölge kullanılabilirliğini model kataloğu sayfasında denetleyin ve desteklenen bir bölge seçin.
Anahtar değiştirme işleminden sonra kimlik doğrulama hatası	Dökümhane portalından doğru anahtarı kopyaladığınızdan emin olun. Anahtarlarınızı görüntülemek için Proje ayarlarıAnahtarlar ve uç noktalar'ı seçin.
Yükseltmeden sonra hız sınırı hataları	Dökümhane Modelleri hız sınırları dağıtım türünüze bağlıdır. Ölçeği büyüt veya daha yüksek aktarım hızına sahip bir dağıtım seç.

İlgili içerik

• Dökümhane portalında Microsoft Foundry Modellerini dağıtma
• Model dağıtımları oluşturma
• DökümHane Modelleri için dağıtım türleri