Dotazování pomocí rozhraní API odpovědí OpenAI

Důležité

Rozhraní OpenAI Responses API popsané v tomto článku je nativní průchod pro základní modely OpenAI účtované po tokenech a externí modely a podporuje úplnou sadu parametrů a nástrojů rozhraní OpenAI Responses. Jednotné rozhraní API pro odpovědi napříč Anthropic Claude, Google Gemini a otevřenými modely hostovanými v Databricks najdete v tématu Dotazování modelu pomocí rozhraní API Open Responses. Rozhraní API pro dokončování chatu je také dostupné pro všechny poskytovatele.

Rozhraní API pro odpovědi OpenAI je alternativou k rozhraní API pro dokončování chatu, které poskytuje další funkce pro modely OpenAI, včetně vlastních nástrojů a vícekrokových pracovních postupů.

Požadavky

Příklady dotazů

Příklady v této části ukazují, jak dotazovat koncový bod rozhraní API základního modelu s platbami za token pomocí rozhraní API odpovědí OpenAI.

Python

Pokud chcete použít rozhraní API odpovědí OpenAI, zadejte jako vstup model obsluhující název koncového model bodu. Následující příklad předpokládá, že máte token rozhraní API Azure Databricks nainstalovaný na vašem výpočetním prostředku. K připojení klienta OpenAI k Azure Databricks potřebujete také instanci pracovního prostoru Azure Databricks.

import os
import openai
from openai import OpenAI

client = OpenAI(
    api_key="dapi-your-databricks-token",
    base_url="https://example.staging.cloud.databricks.com/serving-endpoints"
)

response = client.responses.create(
    model="databricks-gpt-5",
    input=[
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "What is a mixture of experts model?",
      }
    ],
    max_output_tokens=256
)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "model": "databricks-gpt-5",
  "input": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "What is a mixture of experts model?"
    }
  ],
  "max_output_tokens": 256
}' \
https://<workspace_host>.databricks.com/serving-endpoints/responses

Vlastní nástroje

Vlastní nástroje umožňují modelu vrátit libovolný řetězcový výstup místo argumentů funkce formátovaných jako JSON. To je užitečné pro generování kódu, použití oprav nebo jiných případů použití, kdy se nevyžaduje strukturovaný JSON.

Poznámka:

Vlastní nástroje jsou podporovány pouze u modelů řady GPT-5 (databricks-gpt-5, databricks-gpt-5-1databricks-gpt-5-2, databricks-gpt-5-4, databricks-gpt-5-5, ) databricks-gpt-5-5-proprostřednictvím rozhraní API pro odpovědi.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{"role": "user", "content": "Write a Python function to calculate factorial"}],
    tools=[
        {
            "type": "custom",
            "name": "code_exec",
            "description": "Executes arbitrary Python code. Return only valid Python code."
        }
    ],
    max_output_tokens=1024
)

Integrované nástroje

Integrované nástroje umožňují modelu volat funkce poskytované platformou, aniž byste museli implementovat back-end nástroje sami. Tyto nástroje vrací strukturované výstupy a jsou plně spravované platformou.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{
        "role": "user",
        "content": "Add input validation to the factorial function in main.py."
    }],
    tools=[
        {
            "type": "apply_patch"
        }
    ],
    max_output_tokens=1024
)

print(response.output_text)

Podporované modely

Externí modely

  • Zprostředkovatel modelu OpenAI
  • Poskytovatel modelů Azure OpenAI

Podporované vstupní typy

Modely OpenAI GPT na Azure Databricks přijímají vstupy textu a obrázků. Viz modely rozpoznávání obrazu pro požadavky na formát a velikost obrázku. Vstupní typy jednotlivých modelů najdete v tématu Základní modely hostované službou Databricks, které jsou k dispozici v rozhraních API pro základní modely.

Omezení

Následující omezení platí jenom pro modely základu pro platby za tokeny . Externí modely podporují všechny parametry a nástroje rozhraní API pro odpovědi.

Následující parametry nejsou podporovány a v případě zadání vrátí chybu 400:

  • background – Zpracování na pozadí není podporováno.
  • store — Uložené odpovědi nejsou podporovány.
  • previous_response_id — Uložené odpovědi nejsou podporovány.
  • service_tier – výběr úrovně služby je spravován Azure Databricks.

Pro základní modely s platbou za tokeny se podporují následující typy nástrojů:

  • function — Tradiční strukturované volání funkcí
  • custom — Vlastní uživatelsky definované nástroje
  • apply_patch — Operace oprav kódu
  • shell — Spouštění příkazů shellu
  • image_generation — Generování imagí
  • mcp — Nástroje protokolu kontextu modelu
  • web_search — Vyhledávání na webu

Dodatečné zdroje

  • Last updated on