Modell lekérdezése az Open Responses API-val

Ez a cikk bemutatja, hogyan kérdezhet le alapmodelleket az Open Responses API használatával, és ismerteti, hogy milyen szolgáltatóspecifikus viselkedést kell figyelembe vennie, amikor ezt teszi.

Az Open Responses API a válaszstílusú kérésformátum nyílt, több szolgáltatós implementációja. input helyett egy messages mezőt használ, és egy strukturált output tömböt ad vissza. Küldje a kérelmeket a /serving-endpoints/open-responses útvonalra úgy, hogy a kérelemtörzs model mezőjében megadja a modellkiszolgáló végpont nevét.

Note

OpenAI-modellek esetén használja közvetlenül az OpenAI Responses API-t . Ez az útvonal natív továbbítást biztosít, és támogatja az OpenAI Responses paramétereinek és eszközeinek teljes körét. Ez a cikk az Open Responses API-t ismerteti, amely több szolgáltatónál működik, de támogat egy szűrt funkciókészletet.

Lekérdezési példák

Az alábbi példa lekérdez egy alapmodell végpontot az Open Responses API-val.

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "databricks-claude-sonnet-4-5",
    "input": [
      {
        "role": "user",
        "content": "What is a mixture of experts model?"
      }
    ],
    "max_output_tokens": 256
  }' \
  https://<workspace_host>.databricks.com/serving-endpoints/open-responses

A válasz egy response tömböt tartalmazó output objektum. Streaming kérések esetén (stream: true) a válasz egy text/event-stream, ahol minden esemény egy válaszdarab.

Szolgáltatóspecifikus viselkedés

A Databricks lefordítja az Open Responses kérést az egyes szolgáltatók natív formátumára. A legtöbb kérés viselkedése konzisztens, de a következő szolgáltatóspecifikus különbségek érvényesek.

Minden szolgáltató

A beszélgetések állapot nélküliek. previous_response_id és a kiszolgálóoldali beszélgetések tárolása nem támogatott. Küldje el a teljes beszélgetést a input mezőben minden egyes turnön.
Egyes OpenAI-specifikus mezőket a rendszer elfogad, de figyelmen kívül hagyja a nem OpenAI-szolgáltatók esetében. Az olyan mezőket, mint a user, safety_identifier, metadata és truncation, a rendszer a válaszban a hordozhatóság érdekében adja vissza, de ezek nem változtatják meg a szolgáltató működését.

Databricks által üzemeltetett (nyílt forráskód) modellek

A funkciótámogatás modellenként történik. A függvényhívás, az érvelés, a strukturált kimenet és a képbemenet modellenként engedélyezve van. A modell által nem támogatott funkciót használó kérés hibát ad vissza. Előfordulhat például, hogy egy érvelést támogató modell nem támogatja a képbevitelt.
A képbemenetnek URL-címnek vagy adat URI-nak kell lennie. Adja meg a képeket a(z) image_url használatával, https URL-ként vagy data: URI-ként. A fájlhivatkozások (file_id) és a dokumentumbemenetek (input_file) nem támogatottak.

Antropikus Claude-modellek

A hőmérséklet 0–2 skálát használ. A Claude a natív 0–1-es tartományt használja, ezért a Databricks az értéket megfelezve újraméretezi — a temperature: 1.0 úgy viselkedik, mint a 0.5.
A következtetés oda-vissza halad a fordulók között. Ha azt szeretné, hogy a modell egy többfordulós párbeszédben a korábbi következtetéseire támaszkodjon, küldje vissza a kapott reasoning elemeket — a hozzájuk tartozó encrypted_content változatlanul hagyásával — a következő kérés input mezőjében. Lásd : Lekérdezési érvelési modellek.
A kép- és dokumentumbemeneteknek base64 adat URL-eknek kell lenniük. A képeket a(z) image_url elemen keresztül, base64-es data: URI-ként, a dokumentumokat pedig a(z) file_data elemen keresztül, base64-es data: URI-ként adja meg. https Az URL-címek és file_id a hivatkozások nem támogatottak.
A strukturált kimenet korlátozásokkal rendelkezik. text.format json_schema típus támogatott, de json_object nem, és hibát ad vissza. A strukturált kimenet nem kombinálható streaminggel vagy következtetéssel, és használatakor a(z) tool_choice nem rögzíthető egy adott segédeszközhöz. Lásd az Azure Databricks strukturált kimeneteit.
A következtetési tokenek a(z) usage.output_tokens részét képezik, nem pedig külön jelentik őket.

Google Gemini-modellek

A hőmérséklet 0–2 skálát használ. A Gemini eredendően 0–1-es tartományt használ, ezért a Databricks az értéket megfelezi, vagyis átskálázza – temperature: 1.0 úgy viselkedik, mint 0.5.
A következtetés oda-vissza halad a fordulók között. Ha azt szeretné, hogy a modell egy többfordulós párbeszédben a korábbi következtetéseire támaszkodjon, küldje vissza a kapott reasoning elemeket — a hozzájuk tartozó encrypted_content változatlanul hagyásával — a következő kérés input mezőjében. Lásd : Lekérdezési érvelési modellek.
A képbemenet az URL-címeket és a base64-es adat URL-eket is https elfogadja.
Az érvelési tokenek a(z) usage.output_tokens_details.reasoning_tokens alatt vannak feltüntetve.

Important

A Geminivel végzett többfordulós eszközhívásokhoz meg kell őrizni a encrypted_content elemet. A Gemini egy encrypted_content értéket ad vissza minden function_call általa előállított elemen. Amikor visszaküldi az eszköz eredményét a következő körhöz, az eredeti function_call elemet is mellékelnie kell úgy, hogy a encrypted_content mezője változatlan maradjon. Azok az ügynök-keretrendszerek, amelyek az eszközhívásokat kizárólag a name, arguments és call_id elemekből rekonstruálják, elhagyják ezt a mezőt, ami miatt az utánkövető kérést elutasítják.

Az alábbi példa megőrzi az function_call elemet (annak encrypted_contenthasználatával) az eszköz eredményének visszaadásakor:

{
  "model": "databricks-gemini-2-5-pro",
  "input": [
    { "role": "user", "content": "What's the weather in San Francisco?" },
    {
      "type": "function_call",
      "call_id": "call_abc123",
      "name": "get_weather",
      "arguments": "{\"city\": \"San Francisco\"}",
      "encrypted_content": "<opaque-provider-signature>"
    },
    {
      "type": "function_call_output",
      "call_id": "call_abc123",
      "output": "{\"temp_f\": 64}"
    }
  ]
}

Tools

Az Open Responses API támogatja a function típusú eszközöket a különböző szolgáltatóknál. A részletekért és a támogatott modellekért lásd a következőt: Függvényhívás az Azure Databricksben. A webes keresés beépített eszközét a webes keresés Azure Databricks című témakörben tekintheti meg.

Más beépített és egyéni eszköztípusok (például custom, apply_patchés image_generationmcp) csak az OpenAI Responses API-n keresztül érhetők el.

Támogatott modellek

Az Open Responses API a Databricks alapmodelljeiben érhető el, beleértve a Anthropic Claude, a Google Gemini és a Databricks által üzemeltetett nyílt modelleket, és a támogatás az új modellekre is kiterjed. Az elérhető modellek aktuális listájáért tekintse meg az alapmodell-típusokat.

A funkciótámogatás, például a függvényhívás, az érvelés, a strukturált kimenet és a képbemenet az alapul szolgáló modelltől függ. Lásd a szolgáltatóspecifikus viselkedést.

Támogatott bemeneti típusok

A bemeneti támogatás a modelltől és a szolgáltatótól függ. A szövegbevitelt minden modell támogatja. A képbemenethez tekintse meg a szolgáltatónkénti megjegyzéseket a szolgáltatóspecifikus viselkedésben , valamint a Query vision-modellek formátum- és méretkövetelményeit. Modellenkénti bemeneti típusokért tekintse meg a Foundation Model API-kban elérhető Databricks által üzemeltetett alapmodelleket.

További források

Visszajelzés

Hasznosnak találta ezt az oldalt?

Last updated on 2026-06-30