Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Bu kılavuz, Microsoft Bulma'da araçların nasıl çalıştığını ve modellerinizi aracı iş akışlarıyla tümleştirmeyi kapsar. Araç türlerini, tümleştirme desenlerini ve nasıl başlanacağı konusunda bilgi verir.
Araçlar nedir?
Araçlar aracıların belirli işlemleri yinelenebilir, tutarlı ve verimli bir şekilde gerçekleştirmesine olanak tanır. Birçok işlem zaten Yazılım Geliştirme Setleri (SDK) veya Uygulama Programlama Arabirimleri (API) biçiminde güvenilir bir şekilde uygulanır. Örneğin, bir veritabanına okuma ve veritabanına yazma işlemi genellikle iyi belgelenmiş ve iyileştirilmiş bir satıcı API'si aracılığıyla gerçekleşir. Bir aracın nerede kullanılacağına yönelik diğer örnekler arasında, stokastisiteyi tolere edemeyen karmaşık veya performans tabanlı algoritmalar veya simülasyonlar sayılabilir. Araçlar, yapay zeka modellerinin ve aracılarının iş akışlarını mevcut sistemlerle etkileşime geçmek için güvenilir ve verimli bir şekilde yönlendirmesini sağlar. Araç kullanım örnekleri şunlardır:
Hesaplama araçları karmaşık matematiksel sorunları çözmek, fiziksel olguları veya mühendislik sistemlerini simüle etmek ve büyük bilimsel veri kümelerini analiz etmek için gerekli algoritmaları sağlar.
Veri işleme araçları , çeşitli kaynaklardan toplanan verileri yönetir ve iyileştirilir. Kullanıcıların Discovery platformunda daha fazla analiz için ilgili bilgileri ayıklamasına, kirliliği gidermesine ve verileri ön işlemesine olanak sağlar.
Simülasyon araçları , platformun Supercomputer kaynaklarını kullanarak fiziksel, kimyasal veya biyolojik süreçleri ve karmaşık mühendislik sistemlerini modelleyebilir ve benzetimini yapabilir. Bu araçlar, zaman, maliyet veya güvenlik endişeleri gibi kısıtlamalar nedeniyle pratikte gerçekleştirilemez denemeler için çok önemlidir.
Görselleştirme araçları bilimsel verileri veya mühendislik tasarım verilerini yorumlar ve bulguları grafiksel olarak iletir. Bu araçlar verileri grafikler, grafikler ve 3B modeller gibi grafik gösterimlerine dönüştürerek modelleri keşfetmeyi, desenleri tanımlamayı ve eğilimleri ve anomalileri ortaya çıkarmayı kolaylaştırır.
Araç türleri
Microsoft Bulma iki tür aracı destekler: action ve code-environment tabanlı araçları.
Eylem tabanlı araçlar
Yazılım ticari, özel veya açık kaynak paketler gibi bir işletim sistemi gerektirdiğinde eylem tabanlı araçlar kullanılır. Bu paketler genellikle ikili olarak dağıtılır veya karmaşık yükleme gereksinimlerine sahiptir. Simülatörler, öykünücüler, derleyiciler, görselleştiriciler, lintler, tasarım otomasyon araçları, modelleme paketleri ve benzer karmaşık yazılım paketleri örnek olarak verilebilir.
Araçlar, daha sonra kapsayıcı kayıt defterinde depolanan bir Docker görüntüsüne yüklenir. Bağımsız değişkenler, gerekli girişler ve beklenen çıkışlarla birlikte aracın gerçekleştirmesi gereken her eylemin yürütme profiline aracın profilinde ek açıklama eklenir. Araç tanımının ek açıklamaları aracıya yürütme bağlamını ve amacını sağlar, böylece çağrıyı etkili bir şekilde planlayabilir.
Kod ortamı tabanlı araçlar
Kod ortamı tabanlı bir araç, Microsoft Bulma aracısının özel kod çalıştırmasını veya isteğe bağlı bir araç oluşturmasını sağlar. Denetim aracısının oluşturabileceği ve bir yazılım geliştirme setinin erişilebilir olduğu tüm diller kullanılabilir. Kod ortamı tabanlı araçlar, bir aracının kodu hızla yazmasına ve yürütmesine olanak tanır. Bir model tarafından oluşturulan yeni algoritmalar veya dinamik olarak oluşturulan araçlar, kod ortamı tabanlı araçlar için en olası hedef senaryolardır.
Karma araçlar
Karma bir araç oluşturmak için kod ortamı ve eylem tabanlı araçlar birleştirilebilir. Karma araçlar, kapsayıcı görüntülerindeki eylem tabanlı araçları, platformun yapay zeka özellikleri tarafından dinamik olarak oluşturulan kod ortamı araçlarıyla birleştirir. Karma araçlar, yapay zeka modellerinin eylem tabanlı araçların yapılandırılmış ortamında yürütülen kodlar oluşturmasına olanak sağlayan dinamik bir yürütme ortamı oluşturur.
Yazma araçları gereksinimleri
Eylem tabanlı araçların docker kapsayıcısında paketlenip Microsoft Discovery Supercomputer tarafından erişilebilen bir kayıt defterinde depolanması gerekir. Gerekli belirtimlere sahip bir araç tanımı yazılmalıdır. Kod ortamı tabanlı araçlar da bir araç tanımı gerektirir; ancak, bu araçlardaki ilişkili eylem yalnızca doğrudan oluşturulan kodu çalıştırmak ve başka bir şey değildir.
Kardinalite ve yürütme profili
Araç tanımı benzersiz bir örnek oluşturma olmadığından, araç tanımları aboneliğin tamamında paylaşılabilir. Araçlar yalnızca çağrıldığında oluşturulur. Her biri yalıtılmış olarak örneklendiğinden, birden çok aracı çakışma olmadan aynı araciya başvurabilir. Bu nedenle, araçların profilde veya yürütme profilinde sabit kodlanmış değer veya veri olmadığından emin olmak için dikkatli olunmalıdır.
Model entegrasyon desenleri
Microsoft Discovery, bilimsel makine öğrenmesi modellerini iş akışlarıyla tümleştirmek için birden çok esnek desen sağlar. Yüksek düzeyde, her biri farklı karmaşıklık düzeylerini, denetimi ve dış sistemlerle tümleştirmeyi desteklemek için tasarlanmış dört birincil yaklaşım vardır:
| Desen | Nasıl çalışır? | Modellerin çalıştığı yer | En iyi kullanım alanı: |
|---|---|---|---|
| Kapsayıcı tabanlı istemci aracı (Python) | Kapsayıcı içinde özel kod çalıştırma | Dökümhane veya dış uç nokta | Özel mantık ve düzenleme |
| Kapsayıcı tabanlı model (Süper bilgisayar) | KAPSAYıCıları HPC ortamında çalıştırma | Keşif Süper Bilgisayarı | Büyük ölçekli eğitim/tahmin |
| OpenAPI tabanlı | ŞEMA ile REST API'lerini kullanma | Dökümhane veya dış hizmet | Mevcut API'ler ve hizmetler |
| MCP tabanlı | Yapılandırılmış bağlam değişimi | Dökümhane veya dış uç nokta | Durum bilgisi olan, çok adımlı iş akışları |
Kapsayıcı tabanlı istemci aracı (Python)
Bu düzende aracı, zaten dağıtılmış bir model için istemci işlevi gören kapsayıcılı bir aracı çağırır. Kapsayıcı modelin kendisini barındırmaz; bunun yerine model hizmetiyle iletişimi işler, gerekli tüm mantığı uygular ve aracıya son çıkışı döndürür. Bu yaklaşım, ön işleme, son işlem veya birden çok adımın nasıl düzenlendiğinde hassas bir denetime ihtiyacınız olduğunda en iyisidir.
Nasıl çalışır?
- Temsilciniz aracı seçer
- Girdiğiniz bilgilerle bir kapsayıcı başlatılır
- Python betiğiniz:
- Girişleri doğrular ve hazırlar
- Dağıtılan model uç noktasına istek gönderir
- Özel ön işleme veya son işlem mantığını uygular
- İsteğe bağlı olarak birden çok çağrıyı veya ek adımları düzenler
- Sonuçlar aracıya iletilir
Nasıl ayarlanır?
- Bir modeli dağıtın (örneğin, Foundry'de veya başka bir uç noktada)
- Python kodunuzla bir Docker görüntüsü oluşturun ve Azure Container Registry (ACR) koduna gönderin
- Güvenli erişimi yapılandırma (yönetilen kimlik önerilir)
- Microsoft Discovery içinde kapsayıcıyı bir araç olarak kaydedin
Kapsayıcı tabanlı model (Süper bilgisayar)
Bilimsel modelinizi bir kapsayıcıya paketleyin ve ölçeklenebilir bir hizmet olarak dağıtın. Bağımlılıklar, çalışma zamanı ve özel mantık üzerinde tam denetime ihtiyacınız olduğunda bu yaklaşım idealdir. Modelinizin büyük ölçekli eğitim veya ağır çıkarım gibi yüksek performanslı işlemlere (HPC) ihtiyacı olduğunda bunu seçin.
Önemli fikir
- Modeliniz Discovery Supercomputer'da bir kapsayıcı içinde çalışır
- Agentlar bunu doğrudan çağırmaz, bir araç veya hizmet katmanı aracılığıyla erişirsiniz.
Nasıl ayarlanır?
- Modelinizi ve bağımlılıklarınızı kapsayıcıya paketleme
- Görüntüyü Azure Container Registry (ACR) cihazınıza gönderme
- Kayıt, Microsoft Bulma'da bir araç olarak
OpenAPI tabanlı
Modelinizi standart bir API arabirimi aracılığıyla açığa çıkarın ve OpenAPI belirtimi kullanarak Discovery'ye bağlayın. Bu, modeliniz zaten bir hizmet olarak barındırıldığında ve standart, şema temelli tümleştirme istediğinizde kullanışlıdır.
Nasıl çalışır?
- Modeliniz/hizmetiniz bir HTTP uç noktası aracılığıyla kullanıma sunuldu
- OpenAPI (Swagger) belirtimi tanımlarsınız
- Aracılar, işlemleri bulmak ve çağırmak için şartnameyi kullanır.
Nasıl ayarlanır?
- Modelinizi bir API uç noktasının arkasına dağıtın.
- OpenAPI belirtimi yazma (istekler, yanıtlar, kimlik doğrulaması)
- API'yi Foundry'de araç olarak kaydetme
MCP tabanlı
Zengin, çok adımlı, bağlama duyarlı etkileşimler gerektiren gelişmiş senaryolar için bunu seçin.
Nasıl çalışır?
- Aracınız Model Bağlam Protokolü(MCP) uygular
- Ajanlar yapılandırılmış bağlamı gönderir ve alır.
- Durum bilgisi olan, çok aşamalı iş akışlarını destekler
Nasıl ayarlanır?
- Modelinizi bir uç noktanın arkasına dağıtma
- MCP sunucusu kullanma veya oluşturma
- MCP aracını Foundry'ye kaydetme
Doğru deseni seçme
Bu hızlı kılavuzu kullanın:
- Modellerde özel mantığa ihtiyacınız olduğunda kapsayıcı tabanlı araçları → kullanma
- İşlem ölçeği ana kısıtlama olduğunda Süper bilgisayar (HPC) → kullanma
- REST API'leriniz varsa OpenAPI araçlarını → kullanma
- İş akışları adımlar arasında bellek ve bağlam gerektirdiğinde MCP araçlarını → kullanma
Uyarı
Tek bir iş akışında birden çok deseni birleştirebilirsiniz.
En iyi güvenlik uygulamaları
Hangi deseni seçerseniz seçin, aşağıdakileri izleyin:
- Yönetilen kimlikleri ve RBAC'yi kullanın (kimlik bilgilerini sabit kodlamaktan kaçının)
- Sabit kapsayıcı görüntülerini kullanın (sürümleyin ve tarayın)
- Şifreleme kullanma (HTTPS + şifrelenmiş depolama)
- Tüm araç ve model çağrıları için günlük kaydını ve izlemeyi etkinleştir