Open Responses API'siyle modeli sorgulama

Bu makalede , Açık Yanıtlar API'sini kullanarak temel modellerin nasıl sorgulandığı açıklanır ve bunu yaptığınızda dikkate almak için sağlayıcıya özgü davranış açıklanır.

Açık Yanıtlar API'si, yanıt stili istek biçiminin açık, çok sağlayıcılı bir uygulamasıdır. input yerine messages alanı kullanır ve yapılandırılmış bir output dizisi döndürür. İstekleri, istek gövdesindeki /serving-endpoints/open-responses alanında model sunma uç noktası adını belirterek model yoluna gönderin.

Note

OpenAI modelleri için doğrudan OpenAI Yanıtları API'sini kullanın. Bu yol yerel bir geçiştir ve OpenAI Yanıtları parametrelerinin ve araçlarının tamamını destekler. Bu makale, sağlayıcılar arasında çalışan ancak odaklanmış bir özellik kümesini destekleyen Açık Yanıtlar API'sini kapsar.

Sorgu örnekleri

Aşağıdaki örnek, Açık Yanıtlar API'siyle bir temel model uç noktasını sorgular.

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "databricks-claude-sonnet-4-5",
    "input": [
      {
        "role": "user",
        "content": "What is a mixture of experts model?"
      }
    ],
    "max_output_tokens": 256
  }' \
  https://<workspace_host>.databricks.com/serving-endpoints/open-responses

Yanıt, bir response nesnesidir ve bir output dizisi içerir. Akış istekleri (stream: true) için yanıt, her olayın bir yanıt parçası olduğu bir text/event-stream’dir.

Sağlayıcıya özgü davranış

Databricks, Açık Yanıtlar isteğini her sağlayıcının yerel biçimine çevirir. Davranış çoğu istek için tutarlıdır, ancak sağlayıcıya özgü aşağıdaki farklılıklar geçerlidir.

Tüm sağlayıcılar

  • Konuşmalar durumsuzdur. previous_response_id ve sunucu tarafı konuşma depolaması desteklenmez. Her turda konuşmanın tamamını input alanına gönderin.
  • OpenAI'ye özgü bazı alanlar, OpenAI olmayan sağlayıcılarda kabul edilir ancak yoksayılır . , user, safety_identifierve metadata gibi truncationalanlar taşınabilirlik için yanıtta döndürülür, ancak sağlayıcı davranışını değiştirmez.

Databricks tarafından barındırılan (açık kaynak) modeller

  • Özellik desteği model başınadır. İşlev çağrısı, akıl yürütme, yapılandırılmış çıkış ve görüntü girişi model başına etkinleştirilir. Modelin desteklemediği bir özelliği kullanan istek bir hata döndürür. Örneğin, mantığı destekleyen bir model görüntü girişini desteklemeyebilir.
  • Görüntü girişi bir URL veya veri URI'si olmalıdır. Görüntüleri image_url aracılığıyla https URL’si veya data: URI’si olarak sağlayın. Dosya başvuruları (file_id) ve belge girişleri (input_file) desteklenmez.

Antropik Claude modelleri

  • Sıcaklık 0-2 ölçeğini kullanır. Claude doğal olarak 0–1 aralığını kullanır, bu nedenle Databricks değeri ikiye bölerek yeniden ölçeklendirir; temperature: 1.0, 0.5 gibi davranır.
  • Dönüşler arasında gidiş dönüşleri muhakeme etme. Modelin çok turlu bir konuşmada önceki düşüncelerini temel alarak akıl yürütebilmesi için, döndürülen reasoning öğelerini encrypted_content değerlerini değiştirmeden bir sonraki isteğin input alanında geri gönderin. Bkz. Sorgu mantığı modelleri.
  • Görüntü ve belge girişleri base64 veri URI'leri olmalıdır. Görüntüleri image_url aracılığıyla base64 data: URI’si olarak ve belgeleri file_data aracılığıyla base64 data: URI’si olarak sağlayın. https URL'ler ve file_id başvurular desteklenmez.
  • Yapılandırılmış çıktının kısıtlamaları vardır. text.format türü json_schema desteklenir, ancak json_object desteklenmez ve bir hata döndürür. Yapılandırılmış çıktı, akış veya akıl yürütmeyle birlikte kullanılamaz ve kullanırken tool_choice öğesini belirli bir araca sabitleyemezsiniz. Azure Databricks'te yapılandırılmış çıktıları görün.
  • Akıl yürütme belirteçleri, ayrı olarak raporlanmak yerine usage.output_tokens içine dahildir.

Google Gemini modelleri

  • Sıcaklık 0-2 ölçeğini kullanır. Gemini yerel olarak 0–1 aralığını kullanır, bu nedenle Databricks değeri ikiye bölerek yeniden ölçeklendirir; temperature: 1.0, 0.5 gibi davranır.
  • Dönüşler arasında gidiş dönüşleri muhakeme etme. Modelin çok turlu bir konuşmada önceki düşüncelerini temel alarak akıl yürütebilmesi için, döndürülen reasoning öğelerini encrypted_content değerlerini değiştirmeden bir sonraki isteğin input alanında geri gönderin. Bkz. Sorgu mantığı modelleri.
  • Görüntü girişi hem URL'leri hem de https base64 veri URI'lerini kabul eder.
  • Akıl yürütme belirteçleri içinde usage.output_tokens_details.reasoning_tokensbildirilir.

Important

Gemini ile çok turlu araç çağrıları için encrypted_content korunması gerekir. Gemini, ürettiği her encrypted_content öğe için bir function_call değeri döndürür. Bir sonraki turda araç sonucunu geri gönderirken, orijinal function_call öğesini encrypted_content alanını değiştirmeden dahil etmeniz gerekir. Araç çağrılarını yalnızca name, arguments ve call_id öğelerinden yeniden oluşturan aracı çerçeveleri bu alanı atlar; bu da devam isteğinin reddedilmesine neden olur.

Aşağıdaki örnek, araç sonucunu döndürürken function_call öğesini (ve onun encrypted_content öğesini) korur:

{
  "model": "databricks-gemini-2-5-pro",
  "input": [
    { "role": "user", "content": "What's the weather in San Francisco?" },
    {
      "type": "function_call",
      "call_id": "call_abc123",
      "name": "get_weather",
      "arguments": "{\"city\": \"San Francisco\"}",
      "encrypted_content": "<opaque-provider-signature>"
    },
    {
      "type": "function_call_output",
      "call_id": "call_abc123",
      "output": "{\"temp_f\": 64}"
    }
  ]
}

Tools

Open Responses API, sağlayıcılar genelinde function türü araçları destekler. Ayrıntılar ve desteklenen modeller için bkz. Azure Databricks üzerinde işlev çağrısı. Web araması yerleşik aracı için bkz. Azure Databricks'da Web araması.

Diğer yerleşik ve özel araç türleri (örneğin custom, apply_patch, image_generationve mcp) yalnızca OpenAI Yanıtları API'sinde kullanılabilir.

Desteklenen modeller

Open Responses API'si Anthropic Claude, Google Gemini ve Databricks tarafından barındırılan açık modeller dahil olmak üzere Databricks temel modellerinde kullanılabilir ve destek, ileriye dönük yeni modellere kadar uzanır. Kullanılabilir modellerin geçerli listesi için bkz. Temel model türleri.

İşlev çağrısı, akıl yürütme, yapılandırılmış çıkış ve görüntü girişi gibi özellik desteği, temel alınan modele bağlıdır. Bkz . Sağlayıcıya özgü davranış.

Desteklenen giriş türleri

Giriş desteği modele ve sağlayıcıya bağlıdır. Metin girişi tüm modeller tarafından desteklenir. Görüntü girişi için Sağlayıcıya özgü davranış bölümündeki sağlayıcı başına notlara ve Sorgu görüntü işleme modellerindeki biçim ve boyut gereksinimlerine bakın. Model başına giriş türleri için bkz. Temel Model API'lerinde kullanılabilen Databricks tarafından barındırılan temel modeller.

Ek kaynaklar