Keskusteluasiakkaan luominen

  • 10 minuuttia

Yleinen skenaario tekoälysovelluksessa on muodostaa yhteys generatiiviseen tekoälymalliin ja käyttää kehotteita keskustelupohjaiseen vuoropuheluun sen kanssa.

Vaikka Azure OpenAI SDK:ta voi käyttää yhdistääksesi "suoraan" malliin avainpohjaisella tai Microsoft Entra ID -todennuksella; kun mallisi otetaan käyttöön Microsoft Foundry -projektissa, voit myös käyttää Microsoft Foundry SDK:ta hakeaksesi projektiasiakkaan, josta voit saada autendikoidun OpenAI-chat-asiakasohjelman kaikille malleille, jotka on otettu käyttöön projektin Microsoft Foundry -resurssissa. Tämän lähestymistavan avulla on helppo kirjoittaa koodi, joka kuluttaa projektissasi käyttöön otettuja malleja, ja siirtyä niiden välillä helposti muuttamalla mallin käyttöönoton nimen parametria.

Tip

Voit käyttää Microsoft Foundry -projektin tarjoamaa OpenAI-chat-asiakasohjelmaa keskustellaksesi minkä tahansa Microsoft Foundryn resurssissa olevan mallin kanssa – myös ei-OpenAI-mallien, kuten Microsoft Phi -mallien.

Seuraava Python-koodiesimerkki käyttää get_openai_client() -menetelmää saadakseen OpenAI-asiakasohjelman, jonka kanssa voi keskustella mallin kanssa, joka on otettu käyttöön projektin Microsoft Foundry -resurssissa.

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from openai import AzureOpenAI

try:
    
    # connect to the project
    project_endpoint = "https://......"
    project_client = AIProjectClient(            
            credential=DefaultAzureCredential(),
            endpoint=project_endpoint,
        )
    
    # Get a chat client
    chat_client = project_client.get_openai_client(api_version="2024-10-21")
    
    # Get a chat completion based on a user-provided prompt
    user_prompt = input("Enter a question:")
    
    response = chat_client.chat.completions.create(
        model=your_model_deployment_name,
        messages=[
            {"role": "system", "content": "You are a helpful AI assistant."},
            {"role": "user", "content": user_prompt}
        ]
    )
    print(response.choices[0].message.content)

except Exception as ex:
    print(ex)

Note

Aiemmin käsiteltyjen azure-ai-projects - ja azure-identity-pakettien lisäksi tässä näkyvä mallikoodi olettaa, että openai-paketti on asennettu:

pip install openai