Rychlý úvod k Unity Gateway

Pošlete svůj první požadavek přes Unity Gateway proti endpointu kompatibilnímu s OpenAI.

Požadavky

Authenticate

Pro začátek použijte osobní přístupový token. OAuth je doporučován pro produkční použití. Nastavte DATABRICKS_TOKEN na token pro váš pracovní prostor.

Osobní přístupový token

Exportujte osobní přístupový token:

export DATABRICKS_TOKEN=<your-personal-access-token>

OAuth

Nahraďte <workspace-url> za adresu URL vašeho pracovního prostoru Azure Databricks. Poté se přihlaste pomocí Azure Databricks CLI a exportujte krátkodobý OAuth token:

databricks auth login --host https://<workspace-url>
export DATABRICKS_TOKEN=$(databricks auth token --host https://<workspace-url> | jq -r .access_token)

Vyberte si model

Azure Databricks poskytuje připravené modely, které můžete prohlížet v uživatelském rozhraní pod schématem system.ainebo si prohlédnout kompletní seznam podporovaných modelů zde.

Tento rychlý start používá system.ai.gpt-5-2. Pro dotazování na jiný model zařaďte jeho plně kvalifikovaný název.

Pošlete svou žádost

Nahraďte <workspace-url> adresou URL svého pracovního prostoru Azure Databricks.

Bash

curl https://<workspace-url>/ai-gateway/mlflow/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -d '{
    "model": "system.ai.gpt-5-2",
    "max_output_tokens": 256,
    "input": [
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "Hello!"}]
      },
      {
        "role": "assistant",
        "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]
      },
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "What is Databricks?"}]
      }
    ]
  }'

Python

from openai import OpenAI
import os

client = OpenAI(
  api_key=os.environ.get("DATABRICKS_TOKEN"),
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1",
)

response = client.responses.create(
  model="system.ai.gpt-5-2",
  max_output_tokens=256,
  input=[
    {"role": "user", "content": [{"type": "input_text", "text": "Hello!"}]},
    {"role": "assistant", "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]},
    {"role": "user", "content": [{"type": "input_text", "text": "What is Databricks?"}]},
  ],
)

print(response.output)

TypeScript

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: process.env.DATABRICKS_TOKEN,
  baseURL: 'https://<workspace-url>/ai-gateway/mlflow/v1',
});

const response = await client.responses.create({
  model: 'system.ai.gpt-5-2',
  max_output_tokens: 256,
  input: [
    { role: 'user', content: [{ type: 'input_text', text: 'Hello!' }] },
    { role: 'assistant', content: [{ type: 'output_text', text: 'Hello! How can I assist you today?' }] },
    { role: 'user', content: [{ type: 'input_text', text: 'What is Databricks?' }] },
  ],
});

console.log(response.output);

Zobrazit požadavek

Otevřete model, který jste dotazovali (system.ai.gpt-5-2) v Průzkumníku katalogu a vyberte záložku Metriky , abyste viděli požadavek, který jste právě poslali, v historii použití, spolu s jeho využitím tokenů a latencí. Viz pozorovatelnost Unity Gateway.

Další kroky

  • Last updated on