Fråga med OpenAI-svars-API:et

Viktigt!

OpenAI Responses API, som beskrivs i den här artikeln, är en inbyggd vidarebefordringsmekanism för OpenAI:s grundmodeller med betalning per token och externa modeller, och stöder hela uppsättningen parametrar och verktyg för OpenAI Responses. Ett enhetligt svars-API för Anthropic Claude, Google Gemini- och Databricks-värdbaserade öppna modeller finns i Fråga en modell med API:et Öppna svar. API:et för chattslutsättning är också tillgängligt för alla leverantörer.

OpenAI-svars-API:et är ett alternativ till API:et för chattavslut som tillhandahåller ytterligare funktioner för OpenAI-modeller, inklusive anpassade verktyg och arbetsflöden i flera steg.

Kravspecifikation

Frågeexempel

Exemplen i det här avsnittet visar hur du kör en fråga mot en Foundation Model API-slutpunkt för betala-för-token med hjälp av svars-API:et från OpenAI.

Python

Om du vill använda OPENAI-svars-API:et anger du den modell som betjänar slutpunktens namn som model indata. I följande exempel förutsätts att du har en Azure Databricks API-token och openai installerat på din dator. Du behöver också din Azure Databricks arbetsyteinstans för att ansluta OpenAI-klienten till Azure Databricks.

import os
import openai
from openai import OpenAI

client = OpenAI(
    api_key="dapi-your-databricks-token",
    base_url="https://example.staging.cloud.databricks.com/serving-endpoints"
)

response = client.responses.create(
    model="databricks-gpt-5",
    input=[
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "What is a mixture of experts model?",
      }
    ],
    max_output_tokens=256
)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "model": "databricks-gpt-5",
  "input": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "What is a mixture of experts model?"
    }
  ],
  "max_output_tokens": 256
}' \
https://<workspace_host>.databricks.com/serving-endpoints/responses

Anpassade verktyg

Med anpassade verktyg kan modellen returnera godtyckliga strängutdata i stället för JSON-formaterade funktionsargument. Detta är användbart för kodgenerering, tillämpning av korrigeringar eller andra användningsfall där strukturerad JSON inte krävs.

Anmärkning

Anpassade verktyg stöds endast med GPT-5-seriemodeller (databricks-gpt-5, , databricks-gpt-5-1databricks-gpt-5-2, databricks-gpt-5-4, databricks-gpt-5-5, databricks-gpt-5-5-pro) via SVARS-API:et.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{"role": "user", "content": "Write a Python function to calculate factorial"}],
    tools=[
        {
            "type": "custom",
            "name": "code_exec",
            "description": "Executes arbitrary Python code. Return only valid Python code."
        }
    ],
    max_output_tokens=1024
)

Inbyggda verktyg

Med inbyggda verktyg kan modellen anropa funktioner som tillhandahålls av plattformen utan att du behöver implementera verktygets serverdel själv. Dessa verktyg returnerar strukturerade utdata och hanteras helt av plattformen.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{
        "role": "user",
        "content": "Add input validation to the factorial function in main.py."
    }],
    tools=[
        {
            "type": "apply_patch"
        }
    ],
    max_output_tokens=1024
)

print(response.output_text)

Modeller som stöds

Externa modeller

  • OpenAI-modellprovider
  • Azure OpenAI-modellprovider

Indatatyper som stöds

OpenAI GPT-modeller på Azure Databricks acceptera text- och bildindata. Se Frågevisionsmodeller för bildformat och storlekskrav. Information om indatatyper per modell finns för grundmodeller som är värdbaserade av Databricks och tillgängliga via Foundation Model-API:er.

Begränsningar

Följande begränsningar gäller endast för grundmodeller för betalning per token . Externa modeller stöder alla api-parametrar och verktyg för svar.

Följande parametrar stöds inte och returnerar ett 400-fel om det anges:

  • background — Bakgrundsbearbetning stöds inte.
  • store – Lagrade svar stöds inte.
  • previous_response_id – Lagrade svar stöds inte.

Parametern service_tier accepterar att välja en begäran i prioritetsläge "priority" . Se Prioriterad betalning per token för API:er för grundmodeller för modellerna och regionerna som stöds. Ange service_tier till "default" för att uttryckligen använda standardprodukten för betalning per token. Utelämnande service_tier motsvarar att skicka "default". Ett service_tier annat värde än "default" eller "priority" returnerar ett fel.

Följande verktygstyper stöds för grundmodeller för betalning per token:

  • function — Traditionell strukturerad funktionsanrop
  • custom — Anpassade användardefinierade verktyg
  • apply_patch — Åtgärder för kodkorrigering
  • shell — Körning av Shell-kommandon
  • image_generation — Bildgenerering
  • mcp — Verktyg för modellkontextprotokoll
  • web_search — Webbsökning

Ytterligare resurser

  • Last updated on