Lekérdezés az OpenAI Responses API-val

Fontos

A cikkben ismertetett OpenAI Responses API natív átjárást biztosít az OpenAI tokenalapú elszámolású alapmodelljeihez és a külső modellekhez, és támogatja az OpenAI Responses összes paraméterét és eszközét. A Anthropic Claude, a Google Gemini és a Databricks által üzemeltetett nyitott modellek egységes válasz API-jával kapcsolatban lásd: Modell lekérdezése az Open Responses API-val. A Csevegés befejezések API minden szolgáltató számára elérhető.

Az OpenAI Responses API a Csevegés befejezése API alternatíva, amely további funkciókat biztosít az OpenAI-modellekhez, beleértve az egyéni eszközöket és a többlépéses munkafolyamatokat.

Requirements

Lekérdezési példák

Az ebben a szakaszban szereplő példák azt mutatják be, hogyan kérdezhet le egy Foundation Model API-t az OpenAI Responses API használatával egy token-enkénti fizetéses végponthoz.

Python

Az OpenAI Responses API használatához adja meg a kiszolgáló modell végpontjának nevét bemenetként model. Az alábbi példa feltételezi, hogy egy Azure Databricks API-token és openai van telepítve a számításra. A Azure Databricks munkaterületpéldányra is szüksége van az OpenAI-ügyfél Azure Databricks való csatlakoztatásához.

import os
import openai
from openai import OpenAI

client = OpenAI(
    api_key="dapi-your-databricks-token",
    base_url="https://example.staging.cloud.databricks.com/serving-endpoints"
)

response = client.responses.create(
    model="databricks-gpt-5",
    input=[
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "What is a mixture of experts model?",
      }
    ],
    max_output_tokens=256
)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "model": "databricks-gpt-5",
  "input": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "What is a mixture of experts model?"
    }
  ],
  "max_output_tokens": 256
}' \
https://<workspace_host>.databricks.com/serving-endpoints/responses

Testreszabott eszközök

Az egyéni eszközök lehetővé teszik, hogy a modell JSON-formátumú függvényargumentumok helyett tetszőleges sztringkimenetet ad vissza. Ez a kódlétrehozáshoz, javítások alkalmazásához vagy más olyan használati esetekhez hasznos, amikor nincs szükség strukturált JSON-ra.

Megjegyzés:

Az egyéni eszközöket csak a GPT-5 sorozatú modellek (databricks-gpt-5, , databricks-gpt-5-1, databricks-gpt-5-2, databricks-gpt-5-4, databricks-gpt-5-5databricks-gpt-5-5-pro) támogatják a Responses API-n keresztül.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{"role": "user", "content": "Write a Python function to calculate factorial"}],
    tools=[
        {
            "type": "custom",
            "name": "code_exec",
            "description": "Executes arbitrary Python code. Return only valid Python code."
        }
    ],
    max_output_tokens=1024
)

Beépített eszközök

A beépített eszközök lehetővé teszik a modell számára a platform által biztosított képességek meghívását anélkül, hogy az eszköz háttérrendszerét saját maga kellene implementálnia. Ezek az eszközök strukturált kimeneteket adnak vissza, és a platform teljes mértékben felügyeli őket.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{
        "role": "user",
        "content": "Add input validation to the factorial function in main.py."
    }],
    tools=[
        {
            "type": "apply_patch"
        }
    ],
    max_output_tokens=1024
)

print(response.output_text)

Támogatott modellek

Külső modellek

  • OpenAI-modellszolgáltató
  • Azure OpenAI-modellszolgáltató

Támogatott bemeneti típusok

Az OpenAI GPT-modellek Azure Databricks fogadják el a szöveg- és képbemeneteket. A képformátumra és a méretre vonatkozó követelményekért tekintse meg a Query Vision-modelleket . Modellenkénti bemeneti típusokért tekintse meg a Foundation Model API-kban elérhető Databricks által üzemeltetett alapmodelleket.

Korlátozások

A következő korlátozások csak a tokenenkénti fizetéses alapmodellekre vonatkoznak. A külső modellek támogatják az összes Responses API-paramétert és eszközt.

A következő paraméterek nem támogatottak, és 400-os hibát adnak vissza, ha meg van adva:

  • background – A háttérfeldolgozás nem támogatott.
  • store – A tárolt válaszok nem támogatottak.
  • previous_response_id – A tárolt válaszok nem támogatottak.

A service_tier paraméterként a(z) "priority" érték adható meg, amellyel a kérés prioritási módba kapcsolható. A támogatott modellekkel és régiókkal kapcsolatban lásd a Priority pay-per-token for Foundation Model APIs oldalt. Állítsa a(z) service_tier értékét "default" értékre az alapértelmezett, tokenenkénti fizetésű termék kifejezett használatához. service_tier elhagyása egyenértékű "default" átadásával. A service_tier és "default" értékektől eltérő bármely "priority" érték hibát eredményez.

A következő eszköztípusok támogatottak a tokenenkénti fizetéses alapmodellekhez:

  • function — Hagyományos strukturált függvényhívás
  • custom — Egyéni, felhasználó által definiált eszközök
  • apply_patch – Kódjavítási műveletek
  • shell — Shell-parancs végrehajtása
  • image_generation — Képgenerálás
  • mcp — Modellkörnyezeti protokoll eszközei
  • web_search – Webes keresés

További erőforrások

  • Last updated on