Создание ответов с помощью API ChatCompletions

Завершено

Tip

Дополнительные сведения см. на вкладке "Текст и изображения ".

API OpenAI ChatCompletions часто используется для моделей и платформ создания искусственного интеллекта. Хотя API ответов рекомендуется для разработки новых проектов, скорее всего, вы столкнетесь с сценариями, в которых API ChatCompletions полезен для обслуживания кода или кроссплатформенной совместимости.

Отправка запроса

API ChatCompletions использует коллекции объектов сообщений в формате JSON для инкапсулирования запросов:

completion = openai_client.chat.completions.create(
    model="gpt-4o",  # Your model deployment name
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "When was Microsoft founded?"}
    ]
)

print(completion.choices[0].message.content)

Сохранение контекста беседы

В отличие от API ответов, API ChatCompletions не предоставляет функции отслеживания состояния ответов. Чтобы сохранить контекст беседы, необходимо написать код, чтобы вручную отслеживать предыдущие запросы и ответы.

# Initial messages
conversation_messages=[
    {
        "role": "system",
        "content": "You are a helpful AI assistant that answers questions and provides information."
    }
]

# Add the first user message
conversation_messages.append(
    {"role": "user",
    "content": "When was Microsoft founded?"}
)

# Get a completion
completion = openai_client.chat.completions.create(
    model="gpt-4o",
    messages=conversation_messages
)
assistant_message = completion.choices[0].message.content
print("Assistant:", assistant_text)

# Append the response to the conversation
conversation_messages.append(
    {"role": "assistant", "content": assistant_text}
)

# Add the next user message
conversation_messages.append(
    {"role": "user",
    "content": "Who founded it?"}
)

# Get a completion
completion = openai_client.chat.completions.create(
    model="gpt-4o",
    messages=conversation_messages
)
assistant_message = completion.choices[0].message.content
print("Assistant:", assistant_text)

# and so on...

В реальном приложении беседа, скорее всего, будет реализована в цикле; например:

# Initial messages
conversation_messages=[
    {
        "role": "system",
        "content": "You are a helpful AI assistant that answers questions and provides information."
    }
]

# Loop until the user wants to quit
print("Assistant: Enter a prompt (or type 'quit' to exit)")
while True:
    input_text = input('\nYou: ')
    if input_text.lower() == "quit":
        print("Assistant: Goodbye!")
        break

    # Add the user message
    conversation_messages.append(
        {"role": "user",
        "content": input_text}
    )

    # Get a completion
    completion = openai_client.chat.completions.create(
        model="gpt-4o",
        messages=conversation_messages
    )
    assistant_message = completion.choices[0].message.content
    print("\nAssistant:", assistant_message)

    # Append the response to the conversation
    conversation_messages.append(
        {"role": "assistant", "content": assistant_message}
    )

Выходные данные из этого примера выглядят примерно так:

Assistant: Enter a prompt (or type 'quit' to exit)

You: When was Microsoft founded?

Assistant: Microsoft was founded on April 4, 1975 in Albuquerque, New Mexico, USA.

You: Who founded it?

Assistant: Microsoft was founded by Bill Gates and Paul Allen.

You: quit

Assistant: Goodbye!

Каждый новый запрос пользователя и ответ добавляются в беседу, и весь журнал беседы отправляется на каждом этапе.

Хотя API ответов не обладает таким количеством функций, API ChatCompletions прочно закрепился в экосистеме генеративных моделей ИИ, поэтому с ним полезно ознакомиться.