Udostępnij za pomocą


Wdrażaj modele jako bezserwerowe wdrożenia interfejsu API

Uwaga

Ten dokument odnosi się do portalu Microsoft Foundry (klasycznego).

🔍 Zapoznaj się z dokumentacją rozwiązania Microsoft Foundry (nową), aby dowiedzieć się więcej o nowym portalu.

Ważne

Elementy oznaczone jako (wersja zapoznawcza) w tym artykule są aktualnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą nie być obsługiwane lub mogą mieć ograniczone możliwości. Aby uzyskać więcej informacji, zobacz Warunki dodatkowe korzystania z testowych wersji Microsoft Azure.

Z tego artykułu dowiesz się, jak wdrożyć model Microsoft Foundry jako wdrożenie bezserwerowego interfejsu API. Niektóre modele w wykazie modeli można wdrożyć jako wdrożenie bezserwerowego interfejsu API. Tego rodzaju wdrożenie umożliwia korzystanie z modeli jako interfejsu API bez hostowania ich w ramach subskrypcji, przy jednoczesnym zachowaniu bezpieczeństwa i zgodności przedsiębiorstwa, których potrzebują organizacje. Ta opcja wdrożenia nie wymaga kwoty z Twojej subskrypcji.

Chociaż bezserwerowe wdrażanie interfejsu API jest jedną z opcji wdrażania modeli Foundry, zalecamy wdrażanie modeli Foundry w zasobach Foundry.

Uwaga

Zalecamy wdrożenie modeli Microsoft Foundry w zasobach Foundry, aby umożliwić korzystanie z wdrożeń w zasobach za pośrednictwem jednego punktu końcowego z jednorodnym uwierzytelnianiem i schematem do generowania wnioskowania. Punkt końcowy jest zgodny z interfejsem API wnioskowania modelu AI platformy Azure, który obsługują wszystkie modele Foundry. Aby dowiedzieć się, jak wdrożyć model Foundry do zasobów Foundry, zobacz Dodawanie i konfigurowanie modeli w Foundry Models.

Wymagania wstępne

  • Subskrypcja platformy Azure z prawidłową formą płatności. Subskrypcje platformy Azure w wersji bezpłatnej lub próbnej nie będą działać. Jeśli nie masz subskrypcji platformy Azure, utwórz płatne konto platformy Azure, aby rozpocząć.

  • Jeśli go nie masz, utwórz projekt oparty na centrum.

  • Upewnij się, że funkcja Wdrażanie modeli w zasobach rozwiązania Foundry (wersja zapoznawcza) jest wyłączona w portalu Foundry. Gdy ta funkcja jest włączona, wdrożenia bezserwerowego interfejsu API nie są dostępne w portalu.

    Zrzut ekranu przedstawiający portal Foundry pokazujący, gdzie wyłączyć wdrażanie w zasobach usługi Foundry.

  • Modele foundry od partnerów i społeczności wymagają dostępu do witryny Azure Marketplace, a modele foundry sprzedawane bezpośrednio przez platformę Azure nie mają tego wymagania. Upewnij się, że masz uprawnienia wymagane do subskrybowania ofert modeli w witrynie Azure Marketplace.

  • Kontrola dostępu oparta na rolach (RBAC) platformy Azure służy do udzielania dostępu do operacji w portalu Foundry. Aby wykonać kroki opisane w tym artykule, konto użytkownika musi mieć przypisaną rolę dewelopera usługi Azure AI w grupie zasobów. Aby uzyskać więcej informacji na temat uprawnień, zobacz Kontrola dostępu oparta na rolach w portalu Foundry.

  • Do korzystania z Foundry możesz użyć dowolnej zgodnej przeglądarki internetowej.

Znajdowanie modelu w wykazie modeli

  1. Zaloguj się do usługi Microsoft Foundry. Upewnij się, że przełącznik New Foundry jest wyłączony. Te kroki odnoszą się do rozwiązania Foundry (wersja klasyczna).
  2. Jeśli nie jesteś jeszcze w projekcie, wybierz go.
  3. Wybierz pozycję Katalog modeli w okienku po lewej stronie.
  1. Wybierz kartę modelu modelu, który chcesz wdrożyć. W tym artykule wybierzesz model DeepSeek-R1 .

  2. Wybierz 'Użyj tego modelu', aby otworzyć okno 'Wdrażanie bezserwerowego API', gdzie można zobaczyć kartę 'Ceny i warunki'.

  3. Nadaj nazwę wdrożeniu w kreatorze wdrażania. Opcja Filtr zawartości (wersja zapoznawcza) jest domyślnie włączona. Pozostaw ustawienie domyślne dla usługi, aby wykrywać szkodliwe treści, takie jak nienawiść, samookaleczenia, treści seksualne i brutalne. Aby uzyskać więcej informacji na temat filtrowania zawartości, zobacz Filtrowanie zawartości w portalu Foundry.

    Zrzut ekranu przedstawiający kreatora wdrażania modelu sprzedawanego bezpośrednio przez platformę Azure.

Wdrażanie modelu w bezserwerowym interfejsie API

W tej sekcji utworzysz punkt końcowy dla modelu.

  1. W kreatorze wdrażania wybierz pozycję Wdróż. Poczekaj, aż wdrożenie będzie gotowe, a nastąpi przekierowanie do strony Wdrożenia.

  2. Aby wyświetlić punkty końcowe wdrożone w projekcie, w sekcji Moje zasoby w okienku po lewej stronie wybierz pozycję Modele i punkty końcowe.

  3. Utworzony punkt końcowy używa uwierzytelniania klucza do autoryzacji. Aby uzyskać klucze skojarzone z danym punktem końcowym, wykonaj następujące kroki:

    1. Wybierz wdrożenie i zanotuj identyfikator URI i klucz punktu końcowego.

    2. Użyj tych poświadczeń, aby wywołać wdrożenie i wygenerować przewidywania.

  4. Jeśli musisz korzystać z tego wdrożenia w innym projekcie lub węźle albo planujesz użyć funkcji tworzenia przepływu do budowy inteligentnych aplikacji, musisz nawiązać połączenie z wdrożeniem bezserwerowego API. Aby dowiedzieć się, jak skonfigurować istniejące wdrożenie bezserwerowego interfejsu API w nowym projekcie lub centrum, zobacz Użycie wdrożenia bezserwerowego interfejsu API z innego projektu lub z Prompt flow.

    Wskazówka

    Jeśli używasz przepływu monitu w tym samym projekcie lub centrum, w którym przeprowadzono wdrożenie, nadal musisz utworzyć połączenie.

Korzystanie z wdrożenia bezserwerowego interfejsu API

Modele wdrożone w usłudze Azure Machine Learning i Foundry w bezserwerowych wdrożeniach interfejsów API obsługują interfejs API wnioskowania modelu AI platformy Azure, który zapewnia wspólny zestaw funkcjonalności dla modeli bazowych. Deweloperzy mogą go używać do uzyskiwania przewidywań z różnorodnych zestawów modeli w jednolity i spójny sposób.

Dowiedz się więcej o możliwościach tego interfejsu API i sposobach korzystania z niego podczas tworzenia aplikacji.

Usuń punkty końcowe i subskrypcje

Wskazówka

Ponieważ możesz dostosować okienko po lewej stronie w portalu Microsoft Foundry, możesz zobaczyć inne elementy, niż pokazano w tych krokach. Jeśli nie widzisz szukanych danych, wybierz pozycję ... Więcej w dolnej części okienka po lewej stronie.

Możesz usunąć subskrypcje modelu i punkty końcowe. Usunięcie subskrypcji modelu sprawia, że skojarzony punkt końcowy staje się niezdrowy i niefunkcjonalny.

Aby usunąć wdrożenie bezserwerowego interfejsu API:

  1. Przejdź do Foundry.
  2. Przejdź do swojego projektu.
  3. W sekcji Moje zasoby wybierz pozycję Modele i punkty końcowe.
  4. Otwórz wdrożenie, które chcesz usunąć.
  5. Wybierz Usuń.

Aby usunąć skojarzoną subskrypcję modelu:

  1. Przejdź do witryny Azure Portal.
  2. Przejdź do grupy zasobów, do której należy projekt.
  3. W filtrze Typ wybierz pozycję SaaS.
  4. Wybierz subskrypcję, którą chcesz usunąć.
  5. Wybierz Usuń.
  • Aby pracować z rozwiązaniem Foundry, zainstaluj interfejs wiersza polecenia platformy Azure i rozszerzenie ml dla usługi Azure Machine Learning.

    az extension add -n ml
    

    Jeśli masz już zainstalowane rozszerzenie, upewnij się, że zainstalowano najnowszą wersję.

    az extension update -n ml
    

    Po zainstalowaniu rozszerzenia skonfiguruj je:

    az account set --subscription <subscription>
    az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
    

Znajdowanie modelu w wykazie modeli

  1. Zaloguj się do usługi Microsoft Foundry. Upewnij się, że przełącznik New Foundry jest wyłączony. Te kroki odnoszą się do rozwiązania Foundry (wersja klasyczna).
  2. Jeśli nie jesteś jeszcze w projekcie, wybierz go.
  3. Wybierz pozycję Katalog modeli w okienku po lewej stronie.
  1. Wybierz kartę modelu modelu, który chcesz wdrożyć. W tym artykule wybierzesz model DeepSeek-R1 .

  2. Skopiuj identyfikator modelu bez uwzględniania wersji modelu, ponieważ wdrożenia bezserwerowego interfejsu API zawsze wdrażają najnowszą dostępną wersję modelu. Na przykład dla identyfikatora modelu azureml://registries/azureml-deepseek/models/DeepSeek-R1/versions/1 skopiuj azureml://registries/azureml-deepseek/models/DeepSeek-R1.

    Zrzut ekranu przedstawiający stronę szczegółów modelu dla modelu sprzedawanego bezpośrednio przez platformę Azure.

Kroki opisane w tej sekcji artykułu używają modelu DeepSeek-R1 na potrzeby ilustracji. Kroki są takie same, niezależnie od tego, czy używasz modeli Foundry sprzedawanych bezpośrednio przez Azure, czy modeli Foundry od partnerów i społeczności. Jeśli na przykład zdecydujesz się wdrożyć model Cohere-command-r-08-2024 , możesz zastąpić poświadczenia modelu w fragmentach kodu poświadczeniami aplikacji Cohere.

Wdrażanie modelu w bezserwerowym interfejsie API

W tej sekcji utworzysz punkt końcowy dla modelu. Nadaj punktowi końcowego nazwę DeepSeek-R1-qwerty.

  1. Utwórz punkt końcowy bezserwerowy.

    endpoint.yml

    name: DeepSeek-R1-qwerty
    model_id: azureml://registries/azureml-deepseek/models/DeepSeek-R1
    

    Użyj pliku endpoint.yml, aby utworzyć punkt końcowy:

    az ml serverless-endpoint create -f endpoint.yml
    
  2. W dowolnym momencie możesz zobaczyć punkty końcowe wdrożone w projekcie:

    az ml serverless-endpoint list
    
  3. Utworzony punkt końcowy używa uwierzytelniania klucza do autoryzacji. Wykonaj poniższe kroki, aby uzyskać klucze skojarzone z danym punktem końcowym.

    az ml serverless-endpoint get-credentials -n DeepSeek-R1-qwerty
    
  4. Jeśli musisz korzystać z tego wdrożenia w innym projekcie lub węźle albo planujesz użyć funkcji tworzenia przepływu do budowy inteligentnych aplikacji, musisz nawiązać połączenie z wdrożeniem bezserwerowego API. Aby dowiedzieć się, jak skonfigurować istniejące wdrożenie bezserwerowego interfejsu API w nowym projekcie lub centrum, zobacz Użycie wdrożenia bezserwerowego interfejsu API z innego projektu lub z Prompt flow.

    Wskazówka

    Jeśli używasz przepływu monitu w tym samym projekcie lub centrum, w którym przeprowadzono wdrożenie, nadal musisz utworzyć połączenie.

Korzystanie z wdrożenia bezserwerowego interfejsu API

Modele wdrożone w usłudze Azure Machine Learning i Foundry w bezserwerowych wdrożeniach interfejsów API obsługują interfejs API wnioskowania modelu AI platformy Azure, który zapewnia wspólny zestaw funkcjonalności dla modeli bazowych. Deweloperzy mogą go używać do uzyskiwania przewidywań z różnorodnych zestawów modeli w jednolity i spójny sposób.

Dowiedz się więcej o możliwościach tego interfejsu API i sposobach korzystania z niego podczas tworzenia aplikacji.

Usuń punkty końcowe i subskrypcje

Możesz usunąć subskrypcje modelu i punkty końcowe. Usunięcie subskrypcji modelu sprawia, że skojarzony punkt końcowy staje się niezdrowy i niefunkcjonalny.

Aby usunąć wdrożenie bezserwerowego interfejsu API:

az ml serverless-endpoint delete \
    --name "DeepSeek-R1-qwerty"

Aby usunąć skojarzoną subskrypcję modelu:

az ml marketplace-subscription delete \
    --name "DeepSeek-R1"
  • Aby pracować z rozwiązaniem Foundry, zainstaluj zestaw SDK usługi Azure Machine Learning dla języka Python.

    pip install -U azure-ai-ml
    

    Po zainstalowaniu zaimportuj niezbędne przestrzenie nazw i utwórz klienta połączonego z projektem:

    from azure.ai.ml import MLClient
    from azure.identity import InteractiveBrowserCredential
    from azure.ai.ml.entities import MarketplaceSubscription, ServerlessEndpoint
    
    client = MLClient(
        credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
        subscription_id="<subscription-id>",
        resource_group_name="<resource-group>",
        workspace_name="<project-name>",
    )
    

Znajdowanie modelu w wykazie modeli

  1. Zaloguj się do usługi Microsoft Foundry. Upewnij się, że przełącznik New Foundry jest wyłączony. Te kroki odnoszą się do rozwiązania Foundry (wersja klasyczna).
  2. Jeśli nie jesteś jeszcze w projekcie, wybierz go.
  3. Wybierz pozycję Katalog modeli w okienku po lewej stronie.
  1. Wybierz kartę modelu modelu, który chcesz wdrożyć. W tym artykule wybierzesz model DeepSeek-R1 .

  2. Skopiuj identyfikator modelu bez uwzględniania wersji modelu, ponieważ wdrożenia bezserwerowego interfejsu API zawsze wdrażają najnowszą dostępną wersję modelu. Na przykład dla identyfikatora modelu azureml://registries/azureml-deepseek/models/DeepSeek-R1/versions/1 skopiuj azureml://registries/azureml-deepseek/models/DeepSeek-R1.

    Zrzut ekranu przedstawiający stronę szczegółów modelu dla modelu sprzedawanego bezpośrednio przez platformę Azure.

Kroki opisane w tej sekcji artykułu używają modelu DeepSeek-R1 na potrzeby ilustracji. Kroki są takie same, niezależnie od tego, czy używasz modeli Foundry sprzedawanych bezpośrednio przez Azure, czy modeli Foundry od partnerów i społeczności. Jeśli na przykład zdecydujesz się wdrożyć model Cohere-command-r-08-2024 , możesz zastąpić poświadczenia modelu w fragmentach kodu poświadczeniami aplikacji Cohere.

Wdrażanie modelu w bezserwerowym interfejsie API

W tej sekcji utworzysz punkt końcowy dla modelu. Nadaj punktowi końcowego nazwę DeepSeek-R1-qwerty.

  1. Utwórz punkt końcowy bezserwerowy.

    endpoint_name="DeepSeek-R1-qwerty"
    
    serverless_endpoint = ServerlessEndpoint(
        name=endpoint_name,
        model_id=model_id
    )
    
    created_endpoint = client.serverless_endpoints.begin_create_or_update(
        serverless_endpoint
    ).result()
    
  2. W dowolnym momencie możesz zobaczyć punkty końcowe wdrożone w projekcie:

    endpoint_name="DeepSeek-R1-qwerty"
    
    serverless_endpoint = ServerlessEndpoint(
        name=endpoint_name,
        model_id=model_id
    )
    
    created_endpoint = client.serverless_endpoints.begin_create_or_update(
        serverless_endpoint
    ).result()
    
  3. Utworzony punkt końcowy używa uwierzytelniania klucza do autoryzacji. Wykonaj poniższe kroki, aby uzyskać klucze skojarzone z danym punktem końcowym.

    endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
    print(endpoint_keys.primary_key)
    print(endpoint_keys.secondary_key)
    
  4. Jeśli musisz korzystać z tego wdrożenia w innym projekcie lub węźle albo planujesz użyć funkcji tworzenia przepływu do budowy inteligentnych aplikacji, musisz nawiązać połączenie z wdrożeniem bezserwerowego API. Aby dowiedzieć się, jak skonfigurować istniejące wdrożenie bezserwerowego interfejsu API w nowym projekcie lub centrum, zobacz Użycie wdrożenia bezserwerowego interfejsu API z innego projektu lub z Prompt flow.

    Wskazówka

    Jeśli używasz przepływu monitu w tym samym projekcie lub centrum, w którym przeprowadzono wdrożenie, nadal musisz utworzyć połączenie.

Korzystanie z wdrożenia bezserwerowego interfejsu API

Modele wdrożone w usłudze Azure Machine Learning i Foundry w bezserwerowych wdrożeniach interfejsów API obsługują interfejs API wnioskowania modelu AI platformy Azure, który zapewnia wspólny zestaw funkcjonalności dla modeli bazowych. Deweloperzy mogą go używać do uzyskiwania przewidywań z różnorodnych zestawów modeli w jednolity i spójny sposób.

Dowiedz się więcej o możliwościach tego interfejsu API i sposobach korzystania z niego podczas tworzenia aplikacji.

Usuń punkty końcowe i subskrypcje

Możesz usunąć subskrypcje modelu i punkty końcowe. Usunięcie subskrypcji modelu sprawia, że skojarzony punkt końcowy staje się niezdrowy i niefunkcjonalny.

client.serverless_endpoints.begin_delete(endpoint_name).wait()

Aby usunąć skojarzoną subskrypcję modelu:

client.marketplace_subscriptions.begin_delete(subscription_name).wait()
  • Aby pracować z rozwiązaniem Foundry, zainstaluj interfejs wiersza polecenia platformy Azure zgodnie z opisem w temacie Interfejs wiersza polecenia platformy Azure.

    Skonfiguruj następujące zmienne środowiskowe zgodnie z ustawieniami:

    RESOURCE_GROUP="serverless-models-dev"
    LOCATION="eastus2" 
    

Znajdowanie modelu w wykazie modeli

  1. Zaloguj się do usługi Microsoft Foundry. Upewnij się, że przełącznik New Foundry jest wyłączony. Te kroki odnoszą się do rozwiązania Foundry (wersja klasyczna).
  2. Jeśli nie jesteś jeszcze w projekcie, wybierz go.
  3. Wybierz pozycję Katalog modeli w okienku po lewej stronie.
  1. Wybierz kartę modelu modelu, który chcesz wdrożyć. W tym artykule wybierzesz model DeepSeek-R1 .

  2. Skopiuj identyfikator modelu bez uwzględniania wersji modelu, ponieważ wdrożenia bezserwerowego interfejsu API zawsze wdrażają najnowszą dostępną wersję modelu. Na przykład dla identyfikatora modelu azureml://registries/azureml-deepseek/models/DeepSeek-R1/versions/1 skopiuj azureml://registries/azureml-deepseek/models/DeepSeek-R1.

    Zrzut ekranu przedstawiający stronę szczegółów modelu dla modelu sprzedawanego bezpośrednio przez platformę Azure.

Kroki opisane w tej sekcji artykułu używają modelu DeepSeek-R1 na potrzeby ilustracji. Kroki są takie same, niezależnie od tego, czy używasz modeli Foundry sprzedawanych bezpośrednio przez Azure, czy modeli Foundry od partnerów i społeczności. Jeśli na przykład zdecydujesz się wdrożyć model Cohere-command-r-08-2024 , możesz zastąpić poświadczenia modelu w fragmentach kodu poświadczeniami aplikacji Cohere.

Wdrażanie modelu w bezserwerowym interfejsie API

W tej sekcji utworzysz punkt końcowy dla modelu. Nadaj punktowi końcowemu nazwę myserverless-text-1234ss.

  1. Utwórz punkt końcowy bezserwerowy. Użyj następującego szablonu, aby utworzyć punkt końcowy:

    serverless-endpoint.bicep

    param projectName string = 'my-project'
    param endpointName string = 'myserverless-text-1234ss'
    param location string = resourceGroup().location
    param modelId string = 'azureml://registries/azureml-deepseek/models/DeepSeek-R1'
    
    var modelName = substring(modelId, (lastIndexOf(modelId, '/') + 1))
    // Replace period character which is used in some model names (and is not valid in the subscription name)
    var sanitizedModelName = replace(modelName, '.', '')
    var subscriptionName = '${sanitizedModelName}-subscription'
    
    resource projectName_endpoint 'Microsoft.MachineLearningServices/workspaces/serverlessEndpoints@2024-04-01-preview' = {
      name: '${projectName}/${endpointName}'
      location: location
      sku: {
        name: 'Consumption'
      }
      properties: {
        modelSettings: {
          modelId: modelId
        }
      }
      dependsOn: [
        projectName_subscription
      ]
    }
    
    output endpointUri string = projectName_endpoint.properties.inferenceEndpoint.uri
    

    Utwórz wdrożenie w następujący sposób:

    az deployment group create --resource-group $RESOURCE_GROUP --template-file model-subscription.bicep
    
  2. W dowolnym momencie możesz zobaczyć punkty końcowe wdrożone w projekcie:

    Narzędzia do zarządzania zasobami umożliwiają wykonywanie zapytań dotyczących zasobów. Poniższy kod używa interfejsu wiersza polecenia platformy Azure:

    az resource list \
        --query "[?type=='Microsoft.MachineLearningServices/workspaces/serverlessEndpoints']"
    
  3. Utworzony punkt końcowy używa uwierzytelniania klucza do autoryzacji. Pobierz klucze skojarzone z danym punktem końcowym przy użyciu interfejsów API REST w celu wykonywania zapytań dotyczących tych informacji.

  4. Jeśli musisz korzystać z tego wdrożenia w innym projekcie lub węźle albo planujesz użyć funkcji tworzenia przepływu do budowy inteligentnych aplikacji, musisz nawiązać połączenie z wdrożeniem bezserwerowego API. Aby dowiedzieć się, jak skonfigurować istniejące wdrożenie bezserwerowego interfejsu API w nowym projekcie lub centrum, zobacz Użycie wdrożenia bezserwerowego interfejsu API z innego projektu lub z Prompt flow.

    Wskazówka

    Jeśli używasz przepływu monitu w tym samym projekcie lub centrum, w którym przeprowadzono wdrożenie, nadal musisz utworzyć połączenie.

Korzystanie z wdrożenia bezserwerowego interfejsu API

Modele wdrożone w usłudze Azure Machine Learning i Foundry w bezserwerowych wdrożeniach interfejsów API obsługują interfejs API wnioskowania modelu AI platformy Azure, który zapewnia wspólny zestaw funkcjonalności dla modeli bazowych. Deweloperzy mogą go używać do uzyskiwania przewidywań z różnorodnych zestawów modeli w jednolity i spójny sposób.

Dowiedz się więcej o możliwościach tego interfejsu API i sposobach korzystania z niego podczas tworzenia aplikacji.

Usuń punkty końcowe i subskrypcje

Możesz usunąć subskrypcje modelu i punkty końcowe. Usunięcie subskrypcji modelu sprawia, że skojarzony punkt końcowy staje się niezdrowy i niefunkcjonalny.

Do zarządzania zasobami można użyć narzędzi do zarządzania zasobami. Poniższy kod używa interfejsu wiersza polecenia platformy Azure:

az resource delete --name <resource-name>

Zagadnienia dotyczące kosztów i limitów przydziału dla modeli Foundry wdrażanych jako bezserwerowy interfejs API.

Przydział jest zarządzany dla każdego wdrożenia. Każde wdrożenie ma limit szybkości wynoszący 200 000 tokenów na minutę i 1000 żądań interfejsu API na minutę. Ponadto obecnie ograniczamy jedno wdrożenie na model na projekt. Skontaktuj się z pomocą techniczną platformy Microsoft Azure, jeśli bieżące limity szybkości nie są wystarczające dla Twoich scenariuszy.

  • Informacje o cenach modeli sprzedawanych bezpośrednio na platformie Azure można znaleźć na karcie Cennik i warunki w oknie wdrażania bezserwerowego interfejsu API .

  • Modele od partnerów i społeczności są oferowane za pośrednictwem witryny Azure Marketplace i zintegrowane z usługą Foundry do użycia. Cennik witryny Azure Marketplace można znaleźć podczas wdrażania lub dostrajania tych modeli. Za każdym razem, gdy projekt subskrybuje daną ofertę z witryny Azure Marketplace, tworzony jest nowy zasób w celu śledzenia kosztów związanych z jego zużyciem. Ten sam zasób służy do śledzenia kosztów skojarzonych z wnioskowaniem i dostrajania; jednak w ramach śledzenia każdego scenariusza można niezależnie śledzić wiele mierników. Aby uzyskać więcej informacji na temat śledzenia kosztów, zobacz Monitorowanie kosztów modeli oferowanych za pośrednictwem witryny Azure Marketplace.

Wymagane uprawnienia, aby subskrybować oferty modeli

Kontrola dostępu oparta na rolach (RBAC) platformy Azure służy do udzielania dostępu do operacji w portalu Foundry. Aby wykonać kroki opisane w tym artykule, konto użytkownika musi mieć przypisaną rolę Właściciela, Współautora lub Dewelopera sztucznej inteligencji platformy Azure dla subskrypcji platformy Azure. Możesz też przypisać swojemu kontu rolę niestandardową, która ma następujące uprawnienia:

  • W subskrypcji Azure — aby przypisać obszar roboczy do oferty w Azure Marketplace, raz dla każdego obszaru roboczego, na ofertę:

    • Microsoft.MarketplaceOrdering/agreements/offers/plans/read
    • Microsoft.MarketplaceOrdering/agreements/offers/plans/sign/action
    • Microsoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.Marketplace/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.SaaS/register/action
  • W grupie zasobów — aby utworzyć i używać zasobu SaaS:

    • Microsoft.SaaS/resources/read
    • Microsoft.SaaS/resources/write
  • W obszarze roboczym — do wdrażania punktów końcowych (rola badacza danych usługi Azure Machine Learning zawiera już te uprawnienia):

    • Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*
    • Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*

Aby uzyskać więcej informacji na temat uprawnień, zobacz Kontrola dostępu oparta na rolach w portalu Foundry.