Sorgu akıl yürütme modelleri

Bu makalede, akıl yürütme görevleri için optimize edilmiş ve Unity Gateway tarafından hizmet verilen temel modeller için sorgu talepleri nasıl yazılacağını öğreniyorsunuz.

Tip

Genie Code (Aracı modu) bunu sizin için yapabilir. Şu örnek istemi deneyin:

Query the databricks-claude-sonnet-4-5 model using the OpenAI client with extended thinking enabled (budget_tokens set to 10240). Send a reasoning question and print both the thinking summary and the final answer.

Databricks Foundation Model API'si, akıl yürütme modelleri de dahil olmak üzere tüm Temel Modellerle etkileşime geçmek için birleşik bir API sağlar. Muhakeme, temel modellerin karmaşık görevleri ele almak için gelişmiş yetenekler kazanmasına olanak tanır. Bazı modeller, nihai bir yanıt vermeden önce adım adım düşünme süreçlerini ortaya koyarak şeffaflık sağlar.

Akıl yürütme modeli türleri

Yalnızca akıl yürütme ve karma olmak üzere iki tür model vardır. Aşağıdaki tabloda, farklı modellerin mantığı denetlemek için farklı yaklaşımları nasıl kullandığı açıklanmaktadır:

Mantıp modeli türü Ayrıntılar Model örnekleri Parametreler
Yalnızca akıl yürütme Bu model her zaman uyarlanabilir düşünmeyi kullanır ve akıl yürütme devre dışı bırakılamaz. databricks-claude-fable-5-1 Anthropic Messages API ile aşağıdaki parametreleri kullanın:
  • thinking: type öğesini adaptive olarak ayarlayın.
  • output_config.effort: low, medium, high, xhigh veya max kabul eder. Databricks varsayılan bir ayar yapmaz; Anthropic ise bu parametreyi atladığınızda kullanırhigh. Diğer değerler, dahil none, reddedilir.
Karma akıl yürütme Hem hızlı hem de anlık yanıtları ve gerektiğinde daha derin mantık yürütmeyi destekler.
  • databricks-claude-sonnet-4-6, databricks-claude-sonnet-4-5, databricks-claude-sonnet-4, databricks-claude-opus-5, databricks-claude-opus-4-8, databricks-claude-opus-4-7, databricks-claude-opus-4-6, databricks-claude-opus-4-5 ve databricks-claude-opus-4-1 gibi Claude modelleri.
  • databricks-deepseek-v4-1-flash
 Parametreler modele göre değişir:
  • Claude modelleri için budget_tokens ve thinking kullanın. Parametre, budget_tokens modelin iç düşünce için kaç token kullanabileceğini kontrol eder. Daha yüksek bütçeler karmaşık görevlerin kalitesini artırabilir, ancak 32.000'in üzerindeki kullanım farklılık gösterebilir. budget_tokens değerinden max_tokensküçük olmalıdır.
  • DeepSeek V4.1 Flash için, reasoning_effort, "high", "xhigh", "max" veya "low" (varsayılan) kabul eder. "minimal", "low" ile eşlenir ve "medium", "high" ile eşlenir. "none" ya "disabled" da mantığı engelliyor. Diğer değerler reddedilir.
Yalnızca akıl yürütme Bu modeller yanıtlarında her zaman iç mantık kullanır. GPT OSS modelleri databricks-gpt-oss-120b ve databricks-gpt-oss-20b gibi. İsteğinizde aşağıdaki parametreyi kullanın:
  • reasoning_effort: , "low" (varsayılan) veya "medium"değerlerini kabul eder"high". Daha yüksek düşünme çabası daha düşünceli ve doğru yanıtlara neden olabilir, ancak gecikme süresini ve belirteç kullanımını artırabilir. Bu parametre yalnızca databricks-gpt-oss-120b ve databricks-gpt-oss-20b dahil olmak üzere sınırlı bir model kümesi tarafından kabul edilir.

Sorgu örnekleri

Uyarı

Aşağıdaki örnekler Unity Gateway ve model hizmetlerine dayanmaktadır. Model hizmetleri yerine uç noktaları sunan model kullanıyorsanız, model hizmeti adını bir uç nokta adıyla değiştirin. Kullanılabilir temel modellerin ve bunların model hizmeti ve uç nokta adlarının listesi için bkz. Temel Model API'lerinde bulunan Databricks tarafından barındırılan temel modeller.

Tüm akıl yürütme modellerine sohbet tamamlama uç noktası üzerinden erişilir.

Claude modeli örneği

import os
from openai import OpenAI

client = OpenAI(
  api_key=os.environ.get('YOUR_DATABRICKS_TOKEN'),
  base_url=os.environ.get('YOUR_DATABRICKS_BASE_URL')
  )

response = client.chat.completions.create(
    model="system.ai.claude-sonnet-4-5",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    max_tokens=20480,
    extra_body={
        "thinking": {
            "type": "enabled",
            "budget_tokens": 10240
        }
    }
)

msg = response.choices[0].message
reasoning = msg.content[0]["summary"][0]["text"]
answer = msg.content[1]["text"]

print("Reasoning:", reasoning)
print("Answer:", answer)

Claude Fable 5.1 model örneği

Claude Fable 5.1 her zaman uyarlanabilir düşünmeyi kullanır. Akıl yürütme derinliğini kontrol etmek için medium öğesini xhigh, high, max, output_config.effort veya low olarak ayarlayın.

curl -X POST "https://<workspace_host>.databricks.com/serving-endpoints/anthropic/v1/messages" \
  -u token:$DATABRICKS_TOKEN \
  -H "Content-Type: application/json" \
  -H "anthropic-beta: effort-2025-11-24" \
  -d '{
    "model": "databricks-claude-fable-5-1",
    "max_tokens": 4096,
    "thinking": {
      "type": "adaptive"
    },
    "output_config": {
      "effort": "high"
    },
    "messages": [
      {
        "role": "user",
        "content": "Why is the sky blue?"
      }
    ]
  }'

GPT-5.1

reasoning_effort GPT-5.1 parametresi varsayılan olarak none olarak ayarlanmıştır, ancak isteklerde değiştirilebilir. Daha yüksek akıl yürütme çabası daha düşünceli ve doğru yanıtlara neden olabilir, ancak gecikme süresini ve belirteç kullanımını artırabilir.

curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gpt-5-1",
    "messages": [
      {
        "role": "user",
        "content": "Why is the sky blue?"
      }
    ],
    "max_tokens": 4096,
    "reasoning_effort": "none"
  }'

GPT OSS modeli örneği

reasoning_effort parametresi , "low" (varsayılan) veya "medium" değerlerini kabul "high"eder. Daha yüksek akıl yürütme çabası daha düşünceli ve doğru yanıtlara neden olabilir, ancak gecikme süresini ve belirteç kullanımını artırabilir.

curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gpt-oss-120b",
    "messages": [
      {
        "role": "user",
        "content": "Why is the sky blue?"
      }
    ],
    "max_tokens": 4096,
    "reasoning_effort": "high"
  }'

İkizler modeli örneği

Bu örnekte system.ai.gemini-3-1-pro kullanılmıştır. reasoning_effort parametresi varsayılan olarak olarak ayarlanır"low", ancak aşağıdaki örnekte görüldüğü gibi isteklerde geçersiz kılınabilir.

curl -X POST "https://<workspace_host>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gemini-3-1-pro",
    "messages": [
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "Why is the sky blue?"
      }
    ],
    "max_tokens": 2000,
    "stream": true,
    "reasoning_effort": "high"
  }'

API yanıtı düşünme ve metin içerik bloklarını içerir.

ChatCompletionMessage(
    role="assistant",
    content=[
        {
            "type": "reasoning",
            "summary": [
                {
                    "type": "summary_text",
                    "text": ("The question is asking about the scientific explanation for why the sky appears blue... "),
                    "signature": ("EqoBCkgIARABGAIiQAhCWRmlaLuPiHaF357JzGmloqLqkeBm3cHG9NFTxKMyC/9bBdBInUsE3IZk6RxWge...")
                }
            ]
        },
        {
            "type": "text",
            "text": (
                "# Why the Sky Is Blue\n\n"
                "The sky appears blue because of a phenomenon called Rayleigh scattering. Here's how it works..."
            )
        }
    ],
    refusal=None,
    annotations=None,
    audio=None,
    function_call=None,
    tool_calls=None
)

Birden fazla tur boyunca akıl yürütmeyi yönet.

Bu bölüm modele databricks-claude-sonnet-4-5 özgüdür.

Çok adımlı konuşmalarda, yalnızca son asistan adımı veya araç kullanımı oturumuyla ilişkili akıl yürütme blokları modele görünür ve giriş belirteçleri olarak sayılır.

Mantık belirteçlerini modele geri geçirmek istemiyorsanız (örneğin, önceki adımlarını gerekçelendirmek için buna ihtiyacınız yoktur), neden oluşturma bloğunu tamamen atlayabilirsiniz. Örneğin:

response = client.chat.completions.create(
    model="system.ai.claude-sonnet-4-5",
    messages=[
        {"role": "user", "content": "Why is the sky blue?"},
        {"role": "assistant", "content": text_content},
        {"role": "user", "content": "Can you explain in a way that a 5-year-old child can understand?"}
    ],
    max_tokens=20480,
    extra_body={
        "thinking": {
            "type": "enabled",
            "budget_tokens": 10240
        }
    }
)

answer = response.choices[0].message.content[1]["text"]
print("Answer:", answer)

Ancak, modelin önceki akıl yürütme süreci üzerinde düşünmesi gerekiyorsa - örneğin, ara akıl yürütmesini ortaya çıkaran deneyimler oluşturuyorsanız - bir önceki turdan akıl yürütme bloğu da dahil olmak üzere tam, değiştirilmemiş asistan mesajını dahil etmelisiniz. Tam yardımcı iletisiyle iş parçacığına şu şekilde devam edin:

assistant_message = response.choices[0].message

response = client.chat.completions.create(
    model="system.ai.claude-sonnet-4-5",
    messages=[
        {"role": "user", "content": "Why is the sky blue?"},
        {"role": "assistant", "content": text_content},
        {"role": "user", "content": "Can you explain in a way that a 5-year-old child can understand?"},
        assistant_message,
        {"role": "user", "content": "Can you simplify the previous answer?"}
    ],
    max_tokens=20480,
    extra_body={
        "thinking": {
            "type": "enabled",
            "budget_tokens": 10240
        }
    }
)

answer = response.choices[0].message.content[1]["text"]
print("Answer:", answer)

Yanıtlar API'lerini açma

Açık Yanıtlar API'sini kullandığınızda, muhakeme, yanıttaki reasoningöğeler olarak output döndürülür. Modelin sonraki bir turda önceki düşünceleri üzerinde akıl yürütebilmesi için, bu reasoning öğelerini — encrypted_content alanları değiştirilmeden — sonraki isteğin input öğesine ekleyin.

reasoning Yanıt çıkışında döndürülen bir öğenin şekli şu şekildedir:

{
  "type": "reasoning",
  "id": "rs_abc123",
  "content": [{ "type": "reasoning_text", "text": "Let me work through the question..." }],
  "encrypted_content": "<opaque-provider-signature>"
}

Konuşmaya devam etmek için, `input` öğesini aynen koruyarak önceki adımın çıktısını `reasoning` içinde geri gönderin:

{
  "model": "databricks-claude-sonnet-4-5",
  "input": [
    { "role": "user", "content": "Why is the sky blue?" },
    {
      "type": "reasoning",
      "id": "rs_abc123",
      "content": [{ "type": "reasoning_text", "text": "Let me work through the question..." }],
      "encrypted_content": "<opaque-provider-signature>"
    },
    { "role": "assistant", "content": "The sky is blue because of Rayleigh scattering..." },
    { "role": "user", "content": "Can you explain it for a five-year-old?" }
  ]
}

encrypted_content Değer sağlayıcıya özgü akıl yürütme durumunu taşır. Eğer kaldırılır veya değiştirilirse, model önceki düşünme süreci üzerinden akıl yürütemez. Bu, Anthropic Claude ve Google Gemini modelleri için geçerlidir.

Bir muhakeme modeli nasıl çalışır?

Akıl yürütme modelleri, standart giriş ve çıkış belirteçlerine ek olarak özel akıl yürütme belirteçleri tanıtır. Bu belirteçler, modelin istemi "düşünmesine" olanak tanır; bunu daha küçük parçalara bölerek ve farklı yanıt yollarını değerlendirerek yapar. Bu içsel akıl yürütme sürecinden sonra, model görünür çıktı belirteçleri olarak nihai cevabını üretir. Bazı modeller, databricks-claude-sonnet-4-5 gibi, bu akıl yürütme belirteçlerini kullanıcılara gösterirken, OpenAI o serisi gibi diğerleri bunları atar ve nihai çıktıda göstermez.

Ek kaynaklar

  • Last updated on