OpenAI Yanıtları API'siyle sorgulama

Önemli

Bu makalede açıklanan OpenAI Responses API, OpenAI’nin token başına ücretlendirilen temel modelleri ve harici modeller için yerel bir doğrudan geçiş sunar ve OpenAI Responses’ın tüm parametre ve araç setini destekler. Anthropic Claude, Google Gemini ve Databricks tarafından barındırılan açık modeller arasında birleşik Yanıtlar API'si için bkz. Open Responses API'siyle model sorgulama. Sohbet Tamamlamaları API'sini tüm sağlayıcılarda da kullanabilirsiniz.

OpenAI Yanıtları API'si, Özel araçlar ve çok adımlı iş akışları dahil olmak üzere OpenAI modelleri için ek özellikler sağlayan Sohbet Tamamlamaları API'sine bir alternatiftir.

Gereksinimler

Sorgu örnekleri

OpenAI Yanıtları API'sini kullanarak bir Temel Model API'sinin belirteç başına ödeme yapan uç noktasının nasıl sorgulanacağını gösteren örnekler bu bölümde bulunmaktadır.

Python

OpenAI Yanıtları API'sini kullanmak için giriş olarak model uç nokta adını sunan modeli belirtin. Aşağıdaki örnekte, bilgisayarınızda bir Azure Databricks API belirteci ve openai yüklü olduğu varsayılır. OpenAI istemcisinin Azure Databricks'e bağlanabilmesi için Azure Databricks çalışma alanı örneğine de ihtiyacınız var.

import os
import openai
from openai import OpenAI

client = OpenAI(
    api_key="dapi-your-databricks-token",
    base_url="https://example.staging.cloud.databricks.com/serving-endpoints"
)

response = client.responses.create(
    model="databricks-gpt-5",
    input=[
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "What is a mixture of experts model?",
      }
    ],
    max_output_tokens=256
)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "model": "databricks-gpt-5",
  "input": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "What is a mixture of experts model?"
    }
  ],
  "max_output_tokens": 256
}' \
https://<workspace_host>.databricks.com/serving-endpoints/responses

Özel araçlar

Özel araçlar, modelin JSON biçimli işlev bağımsız değişkenleri yerine rastgele dize çıkışı döndürmesine olanak tanır. Bu kod oluşturma, düzeltme ekleri uygulama veya yapılandırılmış JSON'un gerekli olmadığı diğer kullanım örnekleri için kullanışlıdır.

Uyarı

Özel araçlar yalnızca Yanıtlar API'si aracılığıyla GPT-5 serisi modellerinde (databricks-gpt-5, databricks-gpt-5-1, databricks-gpt-5-2, databricks-gpt-5-4, databricks-gpt-5-5, ) databricks-gpt-5-5-prodesteklenir.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{"role": "user", "content": "Write a Python function to calculate factorial"}],
    tools=[
        {
            "type": "custom",
            "name": "code_exec",
            "description": "Executes arbitrary Python code. Return only valid Python code."
        }
    ],
    max_output_tokens=1024
)

Gömülü araçlar

Yerleşik araçlar, modelin araç arka ucu uygulamanıza gerek kalmadan platform tarafından sağlanan özellikleri çağırmasına olanak sağlar. Bu araçlar yapılandırılmış çıkışlar döndürür ve platform tarafından tamamen yönetilir.

from databricks_openai import DatabricksOpenAI

client = DatabricksOpenAI()

response = client.responses.create(
    model="databricks-gpt-5",
    input=[{
        "role": "user",
        "content": "Add input validation to the factorial function in main.py."
    }],
    tools=[
        {
            "type": "apply_patch"
        }
    ],
    max_output_tokens=1024
)

print(response.output_text)

Desteklenen modeller

Dış modeller

  • OpenAI model sağlayıcısı
  • Azure OpenAI model sağlayıcısı

Desteklenen giriş türleri

Azure Databricks üzerinde OpenAI GPT modelleri, metin ve görsel girdilerini kabul eder. Görüntü biçimi ve boyut gereksinimleri için bkz. Görüntü işleme modellerini sorgulama . Model başına giriş türleri için bkz. Temel Model API'lerinde kullanılabilen Databricks tarafından barındırılan temel modeller.

Sınırlamalar

Aşağıdaki sınırlamalar yalnızca belirteç başına ödeme temeli modelleri için geçerlidir. Dış modeller tüm Yanıtlar API'leri parametrelerini ve araçlarını destekler.

Aşağıdaki parametreler desteklenmez ve belirtilirse 400 hatası döndürür:

  • background — Arka plan işleme desteklenmez.
  • store — Depolanan yanıtlar desteklenmez.
  • previous_response_id — Depolanan yanıtlar desteklenmez.

service_tier parametresi, bir isteği öncelik moduna almayı kabul eder"priority". Desteklenen modeller ve bölgeler için Temel Model API'leri için belirteç başına öncelikli ücretlendirme konusuna bakın. service_tier öğesini varsayılan belirteç başına ödeme ürününü açıkça kullanmak için "default" olarak ayarlayın. service_tier belirtilmemesi, "default" verilmesiyle eşdeğerdir. "default" veya "priority" dışındaki herhangi bir service_tier değeri hata döndürür.

Belirteç başına ödeme temeli modelleri için aşağıdaki araç türleri desteklenir:

  • function — Geleneksel yapılandırılmış işlev çağrısı
  • custom — Özel kullanıcı tanımlı araçlar
  • apply_patch — Kod yamalama işlemleri
  • shell — Kabuk komutu yürütme
  • image_generation — Görüntü oluşturma
  • mcp — Model Bağlam Protokolü araçları
  • web_search — Web araması

Ek kaynaklar

  • Last updated on