יצירת לקוח צ'אט

הושלם

תרחיש נפוץ ביישום בינה מלאכותית הוא להתחבר למודל בינה מלאכותית גנאי ולהשתמש מבקש דו-שיח המבוססת על צ'אט.

בעוד שניתן להשתמש ב-Azure OpenAI SDK, כדי להתחבר "ישירות" למודל באמצעות אימות מבוסס מפתחות או Microsoft Entra ID; כאשר המודל שלך נפרס בפרויקט Microsoft Foundry, תוכל גם להשתמש ב-SDK של Microsoft Foundry כדי לאסוף לקוח פרויקט, שממנו תוכל לקבל לקוח צ'אט מאומת של OpenAI עבור כל מודל שמופעל במשאב Microsoft Foundry של הפרויקט. גישה זו מקלה עליך לכתוב קוד הצורכים מודלים הפרוסים בפרוייקט שלך, ועוברים ביניהם בקלות על-ידי שינוי הפרמטר של שם פריסת המודל.

עצה

אתה יכול להשתמש בלקוח הצ'אט של OpenAI שמספק פרויקט Microsoft Foundry כדי לשוחח עם כל מודל שמוצב במשאב Microsoft Foundry המשויך - אפילו מודלים שאינם OpenAI, כמו מודלים של Microsoft Phi.

דוגמת הקוד הבאה בפייתון משתמשת בשיטת get_openai_client() כדי לקבל לקוח OpenAI איתו ניתן לשוחח עם מודל שהותקן במשאב Microsoft Foundry של הפרויקט.

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from openai import AzureOpenAI

try:
    
    # connect to the project
    project_endpoint = "https://......"
    project_client = AIProjectClient(            
            credential=DefaultAzureCredential(),
            endpoint=project_endpoint,
        )
    
    # Get a chat client
    chat_client = project_client.get_openai_client(api_version="2024-10-21")
    
    # Get a chat completion based on a user-provided prompt
    user_prompt = input("Enter a question:")
    
    response = chat_client.chat.completions.create(
        model=your_model_deployment_name,
        messages=[
            {"role": "system", "content": "You are a helpful AI assistant."},
            {"role": "user", "content": user_prompt}
        ]
    )
    print(response.choices[0].message.content)

except Exception as ex:
    print(ex)

הערה

בנוסף לחבילות azure-ai-project ו- azure-identity שדנו קודם לכן, הקוד לדוגמה המוצג כאן מניח שהחבילה openai הותקנה:

pip install openai