Query uitvoeren met de OpenAI-antwoorden-API

Belangrijk

De OpenAI Responses API die in dit artikel wordt beschreven, is een native doorvoer voor OpenAI-foundationmodellen op basis van betalen per token en externe modellen, en ondersteunt de volledige set OpenAI Responses-parameters en -tools. Zie een model bevragen met de Open Responses API voor een uniforme Responses API voor Anthropic Claude, Google Gemini en door Databricks gehoste open modellen. De API voor chatvoltooiingen is ook beschikbaar voor alle providers.

De Api voor OpenAI-antwoorden is een alternatief voor de API voor chatvoltooiingen die extra functies biedt voor OpenAI-modellen, waaronder aangepaste hulpprogramma's en werkstromen met meerdere stappen.

Requirements

Queryvoorbeelden

In de voorbeelden in deze sectie ziet u hoe u een query kunt uitvoeren op een Foundation Model API-eindpunt met betalen per token met behulp van de OpenAI-antwoorden-API.

Python

Als u de OpenAI-antwoorden-API wilt gebruiken, geeft u de naam van het eindpunt van het model op als invoer model . In het volgende voorbeeld wordt ervan uitgegaan dat u an Azure Databricks API-token en openai hebt geïnstalleerd op uw berekening. U hebt ook uw Azure Databricks werkruimte-exemplaar nodig om de OpenAI-client te verbinden met Azure Databricks.

import os
import openai
from openai import OpenAI

client = OpenAI(
    api_key="dapi-your-databricks-token",
    base_url="https://example.staging.cloud.databricks.com/serving-endpoints"
)

response = client.responses.create(
    model="databricks-gpt-5",
    input=[
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "What is a mixture of experts model?",
      }
    ],
    max_output_tokens=256
)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "model": "databricks-gpt-5",
  "input": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "What is a mixture of experts model?"
    }
  ],
  "max_output_tokens": 256
}' \
https://<workspace_host>.databricks.com/serving-endpoints/responses

Aangepaste hulpprogramma's

Met aangepaste hulpprogramma's kan het model willekeurige tekenreeksuitvoer retourneren in plaats van JSON-functieargumenten. Dit is handig voor het genereren van code, het toepassen van patches of andere use cases waarbij gestructureerde JSON niet vereist is.

Opmerking

Aangepaste hulpprogramma's worden alleen ondersteund met GPT-5-seriemodellen (databricks-gpt-5, databricks-gpt-5-1, databricks-gpt-5-2, databricks-gpt-5-4, databricks-gpt-5-5, databricks-gpt-5-5-pro) via de Responses API.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{"role": "user", "content": "Write a Python function to calculate factorial"}],
    tools=[
        {
            "type": "custom",
            "name": "code_exec",
            "description": "Executes arbitrary Python code. Return only valid Python code."
        }
    ],
    max_output_tokens=1024
)

Ingebouwde hulpprogramma's

Met ingebouwde hulpprogramma's kan het model door het platform geleverde mogelijkheden aanroepen zonder dat u de back-end van het hulpprogramma zelf hoeft te implementeren. Deze hulpprogramma's retourneren gestructureerde uitvoer en worden volledig beheerd door het platform.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{
        "role": "user",
        "content": "Add input validation to the factorial function in main.py."
    }],
    tools=[
        {
            "type": "apply_patch"
        }
    ],
    max_output_tokens=1024
)

print(response.output_text)

Ondersteunde modellen

Externe modellen

  • OpenAI-modelaanbieder
  • Azure OpenAI-modelprovider

Ondersteunde invoertypen

OpenAI GPT-modellen op Azure Databricks tekst- en afbeeldingsinvoer accepteren. Zie Query Vision-modellen voor vereisten voor afbeeldingsopmaak en -grootte. Zie voor invoertypen per model databricks-gehoste basismodellen die beschikbaar zijn in Foundation Model-API's.

Beperkingen

De volgende beperkingen gelden alleen voor foundationmodellen met betalen per token . Externe modellen ondersteunen alle parameters en hulpprogramma's van de Antwoorden-API.

De volgende parameters worden niet ondersteund en retourneren een 400-fout, indien opgegeven:

  • background — Achtergrondverwerking wordt niet ondersteund.
  • store — Opgeslagen antwoorden worden niet ondersteund.
  • previous_response_id — Opgeslagen antwoorden worden niet ondersteund.
  • service_tier : de selectie van de servicelaag wordt beheerd door Azure Databricks.

De volgende hulpprogrammatypen worden ondersteund voor basismodellen met betalen per token:

  • function — Traditionele gestructureerde functie aanroepen
  • custom — Aangepaste door de gebruiker gedefinieerde hulpprogramma's
  • apply_patch — Code patching-bewerkingen
  • shell — Uitvoering van Shell-opdracht
  • image_generation — Afbeeldingsgeneratie
  • mcp — Hulpprogramma's voor modelcontextprotocol
  • web_search — Zoeken op internet

Aanvullende bronnen

  • Last updated on