GitHub Modellerinden Microsoft Foundry Modellerine Yükseltme

Bu makalede, GitHub Modellerinden başlayıp Microsoft Foundry Models ile bir Döküm Araçları kaynağı dağıtarak deneyiminizi yükselterek üretken bir yapay zeka uygulaması geliştirmeyi öğreneceksiniz.

GitHub Modelleri , üretken bir yapay zeka uygulaması geliştirirken yapay zeka modellerini ücretsiz bulmak ve denemek istediğinizde kullanışlıdır. Uygulamanızı üretime getirmeye hazır olduğunuzda, Azure aboneliğinde bir Foundry Tools kaynağı dağıtarak deneyiminizi yükseltin ve Foundry Modellerini kullanmaya başlayın. Kodunuzda başka hiçbir şeyi değiştirmeniz gerekmez.

GitHub Modelleri için oyun alanı ve ücretsiz API kullanımı dakika başına istekler, günlük istekler, istek başına belirteçler ve eşzamanlı isteklerle sınırlıdır . Hız sınırlaması alırsanız, daha fazla istekte bulunabilmeniz için önce isabet ettiğiniz hız sınırının sıfırlanmasını beklemeniz gerekir.

Önkoşullar

Şunlara sahip olmanız gerekir:

• GitHub Modellerine erişimi olan bir GitHub hesabı.
• Geçerli bir ödeme yöntemine sahip bir Azure aboneliği. Azure aboneliğiniz yoksa başlamak için ücretli bir Azure hesabı oluşturun. Alternatif olarak, modelinizi üretime dağıtmaya hazır olana kadar bekleyebilirsiniz. Bu noktada Azure hesabınızı oluşturmanız veya standart bir hesaba güncelleştirmeniz istenir.
• Ortaklar ve topluluk tarafından sunulan dökümhane modelleri için Azure Market'e erişim gerekir. Model tekliflerine abone olmak için gereken izinlere sahip olduğunuzdan emin olun. Doğrudan Azure tarafından satılan Foundry Modelleri bu gereksinime sahip değildir.

DökümHane Modellerine Yükseltme

Oyun alanının hız sınırları ve ücretsiz API kullanımı, modellerle denemeler yapıp yapay zeka uygulamanızı geliştirmenize yardımcı olur. Uygulamanızı üretime getirmeye hazır olduğunuzda ücretli bir Azure hesabından anahtar ve uç nokta kullanın. Kodunuzda başka hiçbir şeyi değiştirmeniz gerekmez.

Uyarı

GitHub Modelleri hız sınırlarıyla ücretsizdir. DökümHane Modelleri'ne yükselttikte kullanım, seçtiğiniz dağıtım türüne göre Azure aboneliğinize faturalandırılır.

Anahtarı ve uç noktayı almak için:

1. GitHub modellerine gidin ve ardından oyun alanına ulaşmak için bir model seçin. Bu makalede Mistral Medium 3 (25.05) kullanılır.

2. Oyun alanında modelle etkileşime geçmek için bazı istemler yazın veya önerilen istemlerden bazılarını kullanın.

3. Deneme alanından Bu modeli kullan öğesini seçin. Bu eylem , "Kod tabanınızdaki Modelleri kullanmaya başlama" penceresi açar.

4. "Kimlik doğrulamasını yapılandırma" adımında "Azure AI" bölümünden Microsoft Foundry anahtarını al'ı seçin.

   

5. Azure hesabınızda zaten oturum açtıysanız bu adımı atlayın. Ancak Azure hesabınız yoksa veya hesabınızda oturum açmadıysanız şu adımları izleyin:

   1. Azure hesabınız yoksa Hesabımı oluştur'u seçin ve oluşturma adımlarını izleyin.

   2. Alternatif olarak, bir Azure hesabınız varsa Yeniden oturum aç'ı seçin. Mevcut hesabınız ücretsiz bir hesapsa, önce standart bir plana yükseltmeniz gerekir.

   3. Model Oyun Alanı’na geri dönün ve Microsoft Foundry anahtarını al seçeneğini yeniden seçin.

   4. Azure hesabınızda oturum açın.

6. Foundry > GitHub'a yönlendirilirsiniz ve bir Dökümhane projesinin giriş sayfasına yönlendirilirsiniz.

   Tavsiye

   Foundry (klasik) deneyimine iniş yaparsanız, yeni Foundry deneyimine geçmek için sağ üst navigasyon çubuğundaki Yeni Dökümhane değiştiricisini etkinleştirin.

7. Seçtiğiniz modeli dağıtmak, Playground'ta test etmek ve dağıtılan modeli kodla çıkarım yapmak için Modeli dağıtma'daki adımları izleyin.

8. Playground'da bir test istemi göndererek dağıtımın çalıştığını doğrulayın. Yanıt alırsanız modeliniz koddan kullanıma hazırdır.

Önemli

Tüm modellerin zaten yapılandırılmış olduğu GitHub Modellerinin aksine, Foundry Araçları kaynağı uç noktanızda hangi modellerin kullanılabilir olduğunu ve hangi yapılandırmanın altında olduğunu denetlemenizi sağlar. model parametresinde belirtmeden önce, kullanmayı planladığınız kadar modeli ekleyin. Kaynağınıza daha fazla model eklemeyi öğrenin.

Ek özellikleri keşfetme

Döküm Modelleri GitHub Modellerinde bulunmayan özellikleri destekler:

• Model kataloğu — Azure, iş ortakları ve açık kaynak topluluğunun modellerine göz atın, modelleri karşılaştırın ve değerlendirin.
• Anahtarsız kimlik doğrulaması — API anahtarlarını yönetmeden belirteç tabanlı kimlik doğrulaması için Microsoft Entra Id kullanın.
• İçerik filtreleme — Dağıtımlarınız için içerik güvenliği filtrelerini yapılandırın.
• Hız sınırlama — Kaynağınızdaki belirli modeller için özel hız sınırları ayarlayın.
• Dağıtım türleri — Token başına ödeme, önceden ayrılan ve toplu iş gibi birden çok dağıtım SKU'sundan seçin.

Yaygın sorunları giderme

Sorun	Çözüm
Bölgenizde model kullanılamıyor	Modelin bölge kullanılabilirliğini model kataloğu sayfasında denetleyin ve desteklenen bir bölge seçin.
Anahtar değiştirme işleminden sonra kimlik doğrulama hatası	Dökümhane portalından doğru anahtarı kopyaladığınızdan emin olun. Anahtarlarınızı görüntülemek için Proje ayarları>Anahtarlar ve uç noktalar'ı seçin.
Yükseltmeden sonra hız sınırı hataları	Dökümhane Modelleri hız sınırları dağıtım türünüze bağlıdır. Ölçeği büyüt veya daha yüksek aktarım hızına sahip bir dağıtım seç.

İlgili içerik

• Dökümhane portalında Microsoft Foundry Modellerini dağıtma
• Model dağıtımları oluşturma
• DökümHane Modelleri için dağıtım türleri