Delen via

Een Azure AI Foundry-API importeren

Van toepassing op: Alle API Management-lagen

U kunt AI-modeleindpunten importeren die in Azure AI Foundry zijn geïmplementeerd in uw API Management-exemplaar als API's. Gebruik AI-gatewaybeleid en andere mogelijkheden in API Management om integratie te vereenvoudigen, waarneembaarheid te verbeteren en de controle over de modeleindpunten te verbeteren.

Meer informatie over het beheren van AI-API's in API Management:

Opties voor clientcompatibiliteit

API Management ondersteunt twee clientcompatibiliteitsopties voor AI-API's. Kies de optie die geschikt is voor uw modelimplementatie. De optie bepaalt hoe clients de API aanroepen en hoe het API Management-exemplaar aanvragen routeert naar de AI-service.

  • Azure AI : beheer modeleindpunten in Azure AI Foundry die worden weergegeven via de Azure AI-modeldeductie-API.

    Clients roepen de implementatie aan op een /models eindpunt, zoals /my-model/models/chat/completions. De implementatienaam wordt doorgegeven in de aanvraagbody. Gebruik deze optie als u flexibiliteit wilt om te schakelen tussen modellen die worden weergegeven via de Azure AI-modeldeductie-API en de modellen die zijn geïmplementeerd in Azure OpenAI in Foundry-modellen.

  • Azure OpenAI : modeleindpunten beheren die zijn geïmplementeerd in Azure OpenAI.

    Clients roepen de implementatie aan op een /openai eindpunt, zoals /openai/deployments/my-deployment/chat/completions. De implementatienaam wordt doorgegeven in het aanvraagpad. Gebruik deze optie als uw AI-service alleen Azure OpenAI-modelimplementaties bevat.

Vereiste voorwaarden

  • Een bestaand API Management-exemplaar. Maak er een als u dat nog niet hebt gedaan.

  • Een Azure AI-service in uw abonnement met een of meer modellen die zijn geïmplementeerd. Voorbeelden hiervan zijn modellen die zijn geïmplementeerd in Azure AI Foundry of Azure OpenAI.

AI Foundry-API importeren met behulp van de portal

Gebruik de volgende stappen om een AI-API te importeren in API Management.

Wanneer u de API importeert, configureert API Management het volgende automatisch:

  • Bewerkingen voor elk van de REST API-eindpunten van de API
  • Een door het systeem toegewezen identiteit met de benodigde machtigingen voor toegang tot de IMPLEMENTATIE van de AI-service.
  • Een backend resource en een set-backend-servicebeleid, waarmee API-aanvragen worden doorgestuurd naar het AI-service-eindpunt.
  • Verificatie voor de back-end met behulp van de door het systeem toegewezen beheerde identiteit van de instantie.
  • (optioneel) Beleidsregels waarmee u de API kunt bewaken en beheren.

Een AI Foundry-API importeren in API Management:

  1. Blader in Azure Portal naar uw API Management-exemplaar.

  2. Selecteer in het linkermenu onder API'sAPI's, >.

  3. Kies Azure AI Foundry onder Vanuit een Azure-resource maken.

    Schermopname van het maken van een openAI-compatibele API in de portal.

  4. Op het tabblad AI-service selecteren :

    1. Selecteer het abonnement waarin u wilt zoeken naar AI-services. Als u informatie wilt over de modelimplementaties in een service, selecteert u de koppeling naar implementaties naast de servicenaam. Schermopname van implementaties voor een AI-service in de portal.
    2. Selecteer een AI-service.
    3. Kies Volgende.

  5. Op het tabblad API configureren :

    1. Voer een weergavenaam en een optionele beschrijving voor de API in.

    2. Voer in het basispad een pad in dat uw API Management-exemplaar gebruikt voor toegang tot het implementatie-eindpunt.

    3. Selecteer eventueel een of meer producten die u aan de API wilt koppelen.

    4. Selecteer in clientcompatibiliteit een van de volgende opties op basis van de typen clients die u wilt ondersteunen. Zie clientcompatibiliteitsopties voor meer informatie.

      • Azure OpenAI : selecteer deze optie als uw clients alleen toegang nodig hebben tot azure OpenAI-modelimplementaties.
      • Azure AI : selecteer deze optie als uw clients toegang nodig hebben tot andere modellen in Azure AI Foundry.

    5. Kies Volgende.

      Schermopname van de CONFIGURATIE van de AI Foundry-API in de portal.

  6. Voer op het tabblad Tokenverbruik beheren optioneel instellingen in of accepteer standaardwaarden die het volgende beleid definiëren om de API te bewaken en te beheren:

  7. Voer op het tabblad Semantisch opslaan in cache toepassen instellingen in of accepteer standaardwaarden waarmee het beleid wordt gedefinieerd om de prestaties te optimaliseren en latentie voor de API te verminderen:

  8. Voer op de veiligheid van AI-inhoud optioneel instellingen in of accepteer standaardwaarden voor het configureren van de Azure AI Content Safety-service om prompts met onveilige inhoud te blokkeren:

  9. Selecteer Beoordelen.

  10. Nadat de instellingen zijn gevalideerd, selecteert u Maken.

De AI-API testen

Test deze in de API Management-testconsole om ervoor te zorgen dat uw AI-API werkt zoals verwacht.

  1. Selecteer de API die u in de vorige stap hebt gemaakt.

  2. Selecteer het tabblad Testen.

  3. Selecteer een bewerking die compatibel is met de modelimplementatie. Op de pagina worden velden voor parameters en headers weergegeven.

  4. Voer indien nodig parameters en headers in. Afhankelijk van de bewerking moet u mogelijk een aanvraagbody configureren of bijwerken.

    Opmerking

    In de testconsole vult API Management automatisch een Ocp-Apim-Subscription-Key-header in en configureert de abonnementssleutel van het ingebouwde abonnement voor alle toegang. Met deze sleutel hebt u toegang tot elke API in het API Management-exemplaar. U kunt desgewenst de header Ocp-Apim-Subscription-Key weergeven door het pictogram 'oog' naast de HTTP-aanvraag te selecteren.

  5. Klik op Verzenden.

    Wanneer de test is geslaagd, reageert de back-end met een geslaagde HTTP-antwoordcode en enkele gegevens. Toegevoegd aan het antwoord zijn tokengebruiksgegevens om u te helpen bij het bewaken en beheren van het tokenverbruik van uw taalmodel.

Verwante inhoud