Sohbet istemcisi oluşturma

Tamamlandı

Yapay zeka uygulamasındaki yaygın senaryolardan biri, üretken bir yapay zeka modeline bağlanmak ve sohbet tabanlı bir iletişim kutusuna katılmak için istemleri kullanmaktır.

Azure OpenAI SDK'sını kullanabilirsiniz ancak anahtar tabanlı veya Microsoft Entra Id kimlik doğrulamasını kullanarak bir modele "doğrudan" bağlanmak için; modeliniz bir Microsoft Foundry projesine dağıtıldığında, proje istemcisini almak için Microsoft Foundry SDK'sını da kullanabilirsiniz. Bu istemciden projenin Microsoft Foundry kaynağında dağıtılan tüm modeller için kimliği doğrulanmış bir OpenAI sohbet istemcisi alabilirsiniz. Bu yaklaşım, projenizde dağıtılan modelleri kullanan ve model dağıtım adı parametresini değiştirerek aralarında kolayca geçiş yapan kod yazmayı kolaylaştırır.

Tavsiye

Microsoft Foundry projesi tarafından sağlanan OpenAI sohbet istemcisini, Microsoft Phi modelleri gibi OpenAI olmayan modeller bile olmak üzere ilişkili Microsoft Foundry kaynağında dağıtılan tüm modellerle sohbet etmek için kullanabilirsiniz.

Aşağıdaki Python kod örneği, projenin Microsoft Foundry kaynağında dağıtılan bir modelle sohbet etmek üzere bir OpenAI istemcisi almak için get_openai_client() yöntemini kullanır.

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from openai import AzureOpenAI

try:
    
    # connect to the project
    project_endpoint = "https://......"
    project_client = AIProjectClient(            
            credential=DefaultAzureCredential(),
            endpoint=project_endpoint,
        )
    
    # Get a chat client
    chat_client = project_client.get_openai_client(api_version="2024-10-21")
    
    # Get a chat completion based on a user-provided prompt
    user_prompt = input("Enter a question:")
    
    response = chat_client.chat.completions.create(
        model=your_model_deployment_name,
        messages=[
            {"role": "system", "content": "You are a helpful AI assistant."},
            {"role": "user", "content": user_prompt}
        ]
    )
    print(response.choices[0].message.content)

except Exception as ex:
    print(ex)

Not

Daha önce ele alınan azure-ai-projects ve azure-identity paketlerini ek olarak, burada gösterilen örnek kodda openai paketinin yüklendiği varsayılır:

pip install openai