AI-integraties

Het experimentele Microsoft.Testing.Platform.AI-pakket definieert providerneutrale AI-abstracties voor testframeworks en MTP-extensies. Het pakket integreert met Microsoft.Extensions.AI, zodat een extensie een IChatClient kan aanvragen zonder afhankelijk te zijn van een specifieke modelprovider.

Important

De AI-API's gebruiken de TPEXP diagnostische id en kunnen in een toekomstige release veranderen. De pakketten leveren infrastructuur aan extensies; ze voegen zelf geen AI-gedrag toe aan een testsuite.

Kies de pakketten

Voeg het abstractiespakket toe wanneer u een extensie maakt die een chatclient verbruikt. Voeg een providerpakket toe aan de testtoepassing die als host fungeert voor de extensie:

dotnet add package Microsoft.Testing.Platform.AI
dotnet add package Microsoft.Testing.Extensions.AzureFoundry

Microsoft.Testing.Extensions.AzureFoundry is de door Microsoft geleverde referentieprovider. Er wordt een Azure OpenAI-chatclient gemaakt via Azure AI Foundry.

Azure AI Foundry configureren

Stel de volgende omgevingsvariabelen in:

Variable Required Description
AZURE_OPENAI_ENDPOINT Ja Het Azure OpenAI-resource-eindpunt, zoals https://my-resource.openai.azure.com.
AZURE_OPENAI_DEPLOYMENT_NAME Ja De naam van de modelimplementatie.
AZURE_OPENAI_API_KEY Conditional De API-sleutel van de resource. Stel deze waarde in, tenzij u een TokenCredential in code registreert.

Als u referenties buiten broncodebeheer wilt houden, geeft u deze waarden op via uw lokale omgeving of een beveiligd CI-geheimarchief.

De provider registreren

Schakel het gegenereerde MTP-toegangspunt uit en registreer de provider in uw aangepaste Main methode. Voor authenticatie met een API-sleutel roept u het volgende aan:

#pragma warning disable TPEXP
builder.AddAzureOpenAIChatClientProvider();
#pragma warning restore TPEXP

Voor Microsoft Entra ID of beheerde identiteit raadpleegt u het pakket Azure.Identity en geeft u aanmeldingsgegevens door:

using Azure.Identity;

#pragma warning disable TPEXP
builder.AddAzureOpenAIChatClientProvider(new DefaultAzureCredential());
#pragma warning restore TPEXP

Wanneer AZURE_OPENAI_API_KEY is ingesteld, gebruikt de provider de API-sleutel eerder dan de opgegeven aanmeldingsgegevens. Het ophalen van aanmeldingsgegevens en de authenticatie gebeuren zodra de eerste chataanvraag wordt uitgevoerd, dus configuratiefouten worden mogelijk niet zichtbaar bij de registratie van de provider.

Een chatclient gebruiken

Implementeren IChatClientProvider om een andere AI-provider te integreren. Een MTP-extensie kan de geregistreerde chatclient ophalen uit het volgende IServiceProvider:

IChatClient? client =
    await serviceProvider.GetChatClientAsync(cancellationToken);

De oproep wordt geretourneerd null wanneer er geen beschikbare provider is geregistreerd. Voordat een extensie testgegevens naar een model verzendt, documenteer dan welke gegevens deze verzendt en pas de privacy-, beveiligings- en bewaarvereisten voor die gegevens toe.

Zie ook

  • Last updated on