สร้างไคลเอ็นต์การสนทนา

เสร็จสมบูรณ์เมื่อ

สถานการณ์ทั่วไปในแอปพลิเคชัน AI คือการเชื่อมต่อกับโมเดล AI เชิงกําเนิดและใช้ ข้อความแจ้ง เพื่อมีส่วนร่วมในการสนทนาตามแชทกับโมเดลนั้น

ในขณะที่คุณสามารถใช้ Azure OpenAI SDK เพื่อเชื่อมต่อ "โดยตรง" กับแบบจําลองโดยใช้การรับรองความถูกต้องตามคีย์หรือ Microsoft Entra ID เมื่อโมเดลของคุณถูกปรับใช้ในโครงการ Microsoft Foundry คุณยังสามารถใช้ Microsoft Foundry SDK เพื่อดึงไคลเอ็นต์โครงการ ซึ่งคุณสามารถรับไคลเอ็นต์แชท OpenAI ที่ผ่านการรับรองความถูกต้องสําหรับโมเดลใดๆ ที่ปรับใช้ในทรัพยากร Microsoft Foundry ของโครงการ วิธีนี้ทําให้ง่ายต่อการเขียนโค้ดที่ใช้แบบจําลองที่ปรับใช้ในโครงการของคุณ การสลับไปมาระหว่างแบบจําลองได้อย่างง่ายดายโดยการเปลี่ยนพารามิเตอร์ชื่อการปรับใช้แบบจําลอง

Tip

คุณสามารถใช้ไคลเอ็นต์แชท OpenAI ที่จัดทําโดยโครงการ Microsoft Foundry เพื่อแชทกับโมเดลใดๆ ที่ปรับใช้ในทรัพยากร Microsoft Foundry ที่เกี่ยวข้อง แม้แต่โมเดลที่ไม่ใช่ OpenAI เช่น โมเดล Microsoft Phi

ตัวอย่างโค้ด Python ต่อไปนี้ใช้เมธอด get_openai_client() เพื่อรับไคลเอ็นต์ OpenAI เพื่อแชทกับโมเดลที่มีการปรับใช้ในทรัพยากร Microsoft Foundry ของโครงการ

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from openai import AzureOpenAI

try:
    
    # connect to the project
    project_endpoint = "https://......"
    project_client = AIProjectClient(            
            credential=DefaultAzureCredential(),
            endpoint=project_endpoint,
        )
    
    # Get a chat client
    chat_client = project_client.get_openai_client(api_version="2024-10-21")
    
    # Get a chat completion based on a user-provided prompt
    user_prompt = input("Enter a question:")
    
    response = chat_client.chat.completions.create(
        model=your_model_deployment_name,
        messages=[
            {"role": "system", "content": "You are a helpful AI assistant."},
            {"role": "user", "content": user_prompt}
        ]
    )
    print(response.choices[0].message.content)

except Exception as ex:
    print(ex)

Note

นอกเหนือจากแพคเกจ azure-ai-projects และ azure-identity ที่กล่าวถึงก่อนหน้านี้ โค้ดตัวอย่างที่แสดงที่นี่ถือว่ามีการติดตั้งแพคเกจ openai แล้ว:

pip install openai