Opret en chatklient

Fuldført

Et almindeligt scenarie i et AI-program er at oprette forbindelse til en generativ AI-model og bruge prompter til at deltage i en chatbaseret dialog med den.

Selvom du kan bruge Azure OpenAI SDK til at forbinde "direkte" til en model ved hjælp af nøglebaseret eller Microsoft Entra ID-autentificering; når din model implementeres i et Microsoft Foundry-projekt, kan du også bruge Microsoft Foundry SDK til at hente en projektklient, hvorfra du derefter kan få en autentificeret OpenAI-chatklient for alle modeller, der er implementeret i projektets Microsoft Foundry-ressource. Denne fremgangsmåde gør det nemt at skrive kode, der bruger modeller, der er udrullet i dit projekt, ved nemt at skifte mellem dem ved at ændre parameteren modelinstallationsnavn.

Tip

Du kan bruge OpenAI-chatklienten, som et Microsoft Foundry-projekt leverer, til at chatte med enhver model, der er implementeret i den tilknyttede Microsoft Foundry-ressource – selv ikke-OpenAI-modeller, såsom Microsoft Phi-modeller.

Følgende Python-kodeeksempel bruger get_openai_client()- metoden til at få en OpenAI-klient, som man kan chatte med en model, der er blevet implementeret i projektets Microsoft Foundry-ressource.

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from openai import AzureOpenAI

try:
    
    # connect to the project
    project_endpoint = "https://......"
    project_client = AIProjectClient(            
            credential=DefaultAzureCredential(),
            endpoint=project_endpoint,
        )
    
    # Get a chat client
    chat_client = project_client.get_openai_client(api_version="2024-10-21")
    
    # Get a chat completion based on a user-provided prompt
    user_prompt = input("Enter a question:")
    
    response = chat_client.chat.completions.create(
        model=your_model_deployment_name,
        messages=[
            {"role": "system", "content": "You are a helpful AI assistant."},
            {"role": "user", "content": user_prompt}
        ]
    )
    print(response.choices[0].message.content)

except Exception as ex:
    print(ex)

Note

Ud over de azure-ai-projects- og azure-identity-pakker , der er beskrevet tidligere, antager den eksempelkode, der vises her, at openai-pakken er blevet installeret:

pip install openai