Sunucusuz API uç noktalarını farklı bir Azure AI Studio projesinden veya hub'dan kullanma

Önemli

Bu makalede açıklanan özelliklerden bazıları yalnızca önizleme aşamasında kullanılabilir. Bu önizleme, hizmet düzeyi sözleşmesi olmadan sağlanır ve üretim iş yükleri için önerilmez. Bazı özellikler desteklenmiyor olabileceği gibi özellikleri sınırlandırılmış da olabilir. Daha fazla bilgi için bkz. Microsoft Azure Önizlemeleri Ek Kullanım Koşulları.

Bu makalede, mevcut sunucusuz API uç noktasını dağıtımı oluşturmak için kullanılandan farklı bir projede veya hub'da yapılandırmayı öğreneceksiniz.

Model kataloğundaki bazı modeller sunucusuz API'ler olarak dağıtılabilir. Bu tür bir dağıtım, modelleri aboneliğinizde barındırmadan API olarak kullanmanın yanı sıra kuruluşların ihtiyaç duyduğu kurumsal güvenlik ve uyumluluğu korumanın bir yolunu sağlar. Bu dağıtım seçeneği aboneliğinizden kota gerektirmez.

Dağıtımı oluşturmak için kullanılandan farklı bir projede veya hub'da sunucusuz API uç noktası kullanma gereksinimi aşağıdaki gibi durumlarda ortaya çıkabilir:

• Dağıtımlarınızı belirli bir proje veya hub'da merkezi hale getirmek ve kuruluşunuzdaki farklı projelerden veya merkezlerden kullanmak istiyorsunuz.
• Modeli, söz konusu model için sunucusuz dağıtımın kullanılabildiği belirli bir Azure bölgesindeki bir hub'a dağıtmanız gerekir. Ancak, belirli modeller için sunucusuz dağıtımın kullanılamadığı başka bir bölgeden kullanmanız gerekir.

Önkoşullar

• Geçerli bir ödeme yöntemine sahip bir Azure aboneliği. Ücretsiz veya deneme Azure abonelikleri çalışmaz. Azure aboneliğiniz yoksa başlamak için ücretli bir Azure hesabı oluşturun.

• Azure AI Studio hub'ı.

• Azure AI Studio projesi.

• Sunucusuz API uç noktasına dağıtılan bir model. Bu makalede daha önce Meta-Llama-3-8B-Instruct modelini dağıttığınız varsayılır. Bu modeli sunucusuz API olarak dağıtmayı öğrenmek için bkz . Modelleri sunucusuz API'ler olarak dağıtma.

• Azure AI Studio ile çalışmak için aşağıdaki yazılımı yüklemeniz gerekir:

  AI Studio

  Azure AI Studio'da gezinmek için uyumlu herhangi bir web tarayıcısını kullanabilirsiniz.

  Azure CLI

  Azure Machine Learning için Azure CLI ve ml uzantısı.

  az extension add -n ml
  

  Uzantı zaten yüklüyse en son sürümün yüklü olduğundan emin olun.

  az extension update -n ml
  

  Uzantı yüklendikten sonra yapılandırın:

  az account set --subscription <subscription>
  az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
  

  Python SDK'sı

  Python için Azure Machine Learning SDK'sını yükleyin.

  pip install -U azure-ai-ml
  

  Yüklendikten sonra gerekli ad alanlarını içeri aktar:

  from azure.ai.ml import MLClient
  from azure.identity import InteractiveBrowserCredential
  from azure.ai.ml.entities import ServerlessEndpoint, ServerlessConnection
  

Sunucusuz API uç noktası bağlantısı oluşturma

Bağlantı oluşturmak için şu adımları izleyin:

1. Uç noktanın dağıtıldığı projeye veya hub'a Bağlan:

   AI Studio

   Azure AI Studio'ya gidin ve bağlanmak istediğiniz uç noktanın dağıtıldığı projeye gidin.

   Azure CLI

   CLI'yi projeye işaret eden şekilde yapılandırın:

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   Python SDK'sı

   Projenize bağlı bir istemci oluşturun:

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

2. Bağlanmak istediğiniz uç noktanın URL'sini ve kimlik bilgilerini alın. Bu örnekte meta-llama3-8b-qwerty uç nokta adının ayrıntılarını alırsınız.

   AI Studio

   1. Projenizin AI Studio'daki sol kenar çubuğundan Bileşen Dağıtımları'na> giderek projedeki dağıtımların listesini görebilirsiniz.

   2. Bağlanmak istediğiniz dağıtımı seçin.

   3. Hedef URI ve Anahtar değerlerini kopyalayın.

   Azure CLI

   az ml serverless-endpoint get-credentials -n meta-llama3-8b-qwerty
   

   Python SDK'sı

   endpoint_name = "meta-llama3-8b-qwerty"
   endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
   print(endpoint_keys.primary_key)
   print(endpoint_keys.secondary_key)
   

3. Şimdi, bağlantıyı oluşturmak istediğiniz projeye veya hub'a bağlanın:

   AI Studio

   Bağlantının oluşturulması gereken projeye gidin.

   Azure CLI

   CLI'yi projeye işaret eden şekilde yapılandırın:

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   Python SDK'sı

   Projenize bağlı bir istemci oluşturun:

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

4. Projede bağlantıyı oluşturun:

   AI Studio

   1. AI Studio'da projenizin sol kenar çubuğundan Ayarlar'ı seçin.

   2. Bağlan kaynaklar bölümünde Yeni bağlantı'yı seçin.

   3. Sunucusuz Model'i seçin.

   4. Hedef URI için daha önce kopyaladığınız değeri yapıştırın.

   5. Anahtar için, daha önce kopyaladığınız değeri yapıştırın.

   6. Bağlantıya bir ad verin; bu durumda meta-llama3-8b-connection.

   7. Bağlantı ekle'yi seçin.

   Azure CLI

   Bağlantı tanımı oluşturma:

   connection.yml

   name: meta-llama3-8b-connection
   type: serverless
   endpoint: https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com
   api_key: 1234567890qwertyuiop
   

   az ml connection create -f connection.yml
   

   Python SDK'sı

   client.connections.create(ServerlessConnection(
       name="meta-llama3-8b-connection",
       endpoint="https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com",
       api_key="1234567890qwertyuiop"
   ))
   

5. Bu noktada, bağlantı tüketim için kullanılabilir.

6. Bağlantının çalıştığını doğrulamak için:

   1. AI Studio'da projenizin sol kenar çubuğundan Araçlar>İstemi akışı'na gidin.

   2. Yeni akış oluşturmak için Oluştur'u seçin.

   3. Sohbet akışı kutusunda Oluştur'u seçin.

   4. İstem akışınıza bir ad verin ve Oluştur'u seçin.

   5. Sohbet bölümüne gitmek için grafikten sohbet düğümünü seçin.

   6. Bağlan için, yeni oluşturduğunuz bağlantıyı seçmek için açılan listeyi açın; bu örnekte meta-llama3-8b-connection.

   7. Bir istem akışı otomatik çalışma zamanı başlatmak için üst gezinti çubuğundan İşlem oturumunu başlat'ı seçin.

   8. Sohbet seçeneğini belirleyin. Artık ileti gönderebilir ve yanıt alabilirsiniz.

İlgili içerik

• Azure AI Studio nedir?
• Azure AI SSS makalesi