Dotazování modelu pomocí rozhraní API open responses

Tento článek vysvětluje, jak zadávat dotazy základním modelům pomocí Open Responses API, a popisuje specifické chování jednotlivých poskytovatelů, které je při tom potřeba zohlednit.

Open Responses API je otevřená implementace formátu požadavků typu responses pro více poskytovatelů. Používá pole input místo messages a vrací strukturované pole output. Odešlete požadavky na cestu /serving-endpoints/open-responses a do pole model v těle požadavku zadejte název koncového bodu pro obsluhu modelu.

Note

U modelů OpenAI použijte přímo rozhraní API pro odpovědi OpenAI . Tato cesta je nativní průchod a podporuje plnou sadu parametrů a nástrojů OpenAI Responses. Tento článek se zabývá rozhraním API pro otevřené odpovědi, které funguje napříč poskytovateli, ale podporuje sadu funkcí zaměřenou.

Příklady dotazů

Následující příklad se dotazuje na koncový bod základního modelu pomocí rozhraní OPEN Responses API.

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "databricks-claude-sonnet-4-5",
    "input": [
      {
        "role": "user",
        "content": "What is a mixture of experts model?"
      }
    ],
    "max_output_tokens": 256
  }' \
  https://<workspace_host>.databricks.com/serving-endpoints/open-responses

Odpověď je objekt response s polem output. U streamovacích požadavků (stream: true) je odpověď ve formě text/event-stream, kde každá událost představuje blok odpovědi.

Chování specifické pro zprostředkovatele

Databricks překládá požadavek Open Responses do nativního formátu každého poskytovatele. Chování je konzistentní pro většinu požadavků, ale platí následující rozdíly specifické pro poskytovatele.

Všichni poskytovatelé

Konverzace jsou bezstavové. previous_response_id Úložiště konverzací na straně serveru se nepodporuje. Odesílejte při každém tahu celou konverzaci v poli input.
Některá pole specifická pro OpenAI se přijímají, ale ignorují se u jiných poskytovatelů než OpenAI. Pole jako user, , safety_identifiermetadataa truncation jsou vráceny v odpovědi na přenositelnost, ale nemění chování poskytovatele.

Modely hostované v Databricks (open source)

Podpora funkcí je pro každý model. Volání funkcí, odůvodnění, strukturovaný výstup a vstup obrázků jsou povoleny pro každý model. Požadavek, který používá funkci, kterou model nepodporuje, vrátí chybu. Například model, který podporuje odůvodnění, nemusí podporovat vstup obrázku.
Obrázek musí být zadán jako adresa URL nebo datové URI. Poskytněte obrázky prostřednictvím image_url ve formě adresy URL https nebo identifikátoru URI data:. Odkazy na soubory (file_id) a vstupy dokumentů (input_file) nejsou podporovány.

Modely Anthropic Claude

Teplota používá měřítko 0–2. Claude používá nativní rozsah 0–1, takže Databricks znovu škáluje hodnotu tím, že ji halvuje –temperature: 1.0 chová se podobně 0.5.
Uvažování probíhá napříč jednotlivými interakcemi. Chcete-li modelu umožnit, aby ve vícekolové konverzaci navázal na své předchozí úvahy, odešlete vrácené položky reasoning se svým nezměněným encrypted_content zpět v poli input dalšího požadavku. Podívejte se na modely zdůvodňování dotazů.
Vstupy obrázků a dokumentů musí být datová URI v kódování base64. Poskytněte obrázky prostřednictvím image_url jako identifikátor URI ve formátu base64 data: a dokumenty prostřednictvím file_data jako identifikátor URI ve formátu base64 data:. https Adresy URL a file_id odkazy se nepodporují.
Strukturovaný výstup má omezení. text.format typ json_schema je podporovaný, ale json_object není a vrací chybu. Strukturovaný výstup nejde kombinovat se streamováním nebo s odůvodněním a při jeho použití se nedá připnout tool_choice ke konkrétnímu nástroji. Podívejte se na Strukturované výstupy v Azure Databricks.
Tokeny uvažování jsou zahrnuty v usage.output_tokens, nikoli vykazovány samostatně.

Modely Google Gemini

Teplota používá měřítko 0–2. Gemini používá nativní rozsah 0–1, takže Databricks znovu škáluje hodnotu tím, že ji halvuje –temperature: 1.0 chová se takto 0.5.
Uvažování probíhá napříč jednotlivými interakcemi. Chcete-li modelu umožnit, aby ve vícekolové konverzaci navázal na své předchozí úvahy, odešlete vrácené položky reasoning se svým nezměněným encrypted_content zpět v poli input dalšího požadavku. Podívejte se na modely zdůvodňování dotazů.
Vstup obrázku přijímá https adresy URL i identifikátory URI dat base64.
Tokeny uvažování se vykazují v usage.output_tokens_details.reasoning_tokens.

Important

Vícenásobná volání nástrojů s Gemini vyžadují zachování encrypted_content. Gemini vrátí encrypted_content hodnotu pro každou function_call položku, kterou vytvoří. Když odešlete výsledek nástroje zpět v dalším kroku, musíte zahrnout původní položku function_call s jejím polem encrypted_content ponechaným beze změny. Agentní frameworky, které rekonstruují volání nástrojů pouze z name, arguments a call_id, vynechávají toto pole, což způsobuje odmítnutí následného požadavku.

Následující příklad zachová function_call položku (se svým encrypted_content) při vrácení výsledku nástroje:

{
  "model": "databricks-gemini-2-5-pro",
  "input": [
    { "role": "user", "content": "What's the weather in San Francisco?" },
    {
      "type": "function_call",
      "call_id": "call_abc123",
      "name": "get_weather",
      "arguments": "{\"city\": \"San Francisco\"}",
      "encrypted_content": "<opaque-provider-signature>"
    },
    {
      "type": "function_call_output",
      "call_id": "call_abc123",
      "output": "{\"temp_f\": 64}"
    }
  ]
}

Tools

Open Responses API podporuje nástroje typu function u různých poskytovatelů. Podrobnosti a podporované modely najdete v článku Volání funkcí v Azure Databricks. Integrovaný nástroj pro vyhledávání na webu najdete v tématu Vyhledávání na webu na Azure Databricks.

Další předdefinované a vlastní typy nástrojů (například customapply_patch, image_generation, amcp) jsou k dispozici pouze prostřednictvím rozhraní API pro odpovědi OpenAI.

Podporované modely

Rozhraní Open Responses API je k dispozici napříč základními modely Databricks, včetně modelů Anthropic Claude, Google Gemini a open modelů hostovaných Databricks, a podpora bude do budoucna rozšířena i na nové modely. Aktuální seznam dostupných modelů najdete v tématu Základní typy modelů.

Podpora funkcí, jako je volání funkce, odůvodnění, strukturovaný výstup a vstup obrázku, závisí na podkladovém modelu. Viz chování specifické pro poskytovatele.

Podporované vstupní typy

Podpora vstupu závisí na modelu a poskytovateli. Textové zadání podporuje všechny modely. Informace o zadávání obrázků najdete v poznámkách jednotlivých poskytovatelů v chování specifickém pro zprostředkovatele a požadavcích na formát a velikost v modelech zpracování obrazu dotazů. Vstupní typy jednotlivých modelů najdete v tématu Základní modely hostované službou Databricks, které jsou k dispozici v rozhraních API pro základní modely.

Dodatečné zdroje

Váš názor

Byla tato stránka užitečná?

Last updated on 2026-06-29