Поделиться через


Использование Azure OpenAI в Fabric с пакетом SDK для Python и Synapse ML (предварительная версия)

Внимание

Эта функция доступна в предварительной версии.

В этой статье приведены примеры использования Azure OpenAI в Fabric с помощью пакета SDK для Python OpenAI и использования SynapseML.

Необходимые компоненты

Пакет SDK для Python OpenAI не установлен в среде выполнения по умолчанию, необходимо сначала установить его.

%pip install openai==0.28.1

Чат

ChatGPT и GPT-4 — это языковые модели, оптимизированные для диалоговых интерфейсов. В приведенном здесь примере показаны простые операции завершения чата и не предназначены для работы в качестве руководства.

import openai

response = openai.ChatCompletion.create(
    deployment_id='gpt-35-turbo-0125', # deployment_id could be one of {gpt-35-turbo-0125 or gpt-4-32k}
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Knock knock."},
        {"role": "assistant", "content": "Who's there?"},
        {"role": "user", "content": "Orange."},
    ],
    temperature=0,
)

print(f"{response.choices[0].message.role}: {response.choices[0].message.content}")

Выходные данные

    assistant: Orange who?

Мы также можем передавать ответ

response = openai.ChatCompletion.create(
    deployment_id='gpt-35-turbo-0125', # deployment_id could be one of {gpt-35-turbo-0125 or gpt-4-32k}
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Knock knock."},
        {"role": "assistant", "content": "Who's there?"},
        {"role": "user", "content": "Orange."},
    ],
    temperature=0,
    stream=True
)

for chunk in response:
    delta = chunk.choices[0].delta

    if "role" in delta.keys():
        print(delta.role + ": ", end="", flush=True)
    if "content" in delta.keys():
        print(delta.content, end="", flush=True)

Выходные данные

    assistant: Orange who?

Внедрение

Внедрение — это специальный формат представления данных, который модели машинного обучения и алгоритмы могут легко использовать. Он содержит семантический смысл текста с богатыми сведениями, представленный вектором чисел с плавающей запятой. Расстояние между двумя внедрениями в векторное пространство связано с семантическим сходством между двумя исходными входными данными. Например, если два текста похожи, их векторные представления также должны быть похожими.

В этом примере показано, как получить внедрение и не предназначено в качестве руководства.

deployment_id = "text-embedding-ada-002" # set deployment_name as text-embedding-ada-002
embeddings = openai.Embedding.create(deployment_id=deployment_id,
                                     input="The food was delicious and the waiter...")
                                
print(embeddings)

Выходные данные

    {
      "object": "list",
      "data": [
        {
          "object": "embedding",
          "index": 0,
          "embedding": [
            0.002306425478309393,
            -0.009327292442321777,
            0.015797346830368042,
            ...
            0.014552861452102661,
            0.010463837534189224,
            -0.015327490866184235,
            -0.01937841810286045,
            -0.0028842221945524216
          ]
        }
      ],
      "model": "ada",
      "usage": {
        "prompt_tokens": 8,
        "total_tokens": 8
      }
    }