Unity Gateway snabbstart

Skicka din första förfrågan via Unity Gateway mot den OpenAI-kompatibla endpointen.

Requirements

Authenticate

För att komma igång, använd en personlig åtkomsttoken. OAuth rekommenderas för produktionsanvändning. Ställ in DATABRICKS_TOKEN på token för din arbetsplats.

Token för personlig åtkomst

Exportera en personlig åtkomsttoken:

export DATABRICKS_TOKEN=<your-personal-access-token>

OAuth

Ersätt <workspace-url>med din Azure Databricks workspace-URL. Logga sedan in med Azure Databricks CLI och exportera en kortlivad OAuth-token:

databricks auth login --host https://<workspace-url>
export DATABRICKS_TOKEN=$(databricks auth token --host https://<workspace-url> | jq -r .access_token)

Välj en modell

Azure Databricks tillhandahåller färdiga modeller som du kan bläddra i gränssnittet under schematsystem.ai, eller se den kompletta listan över stödda modeller här.

Den här snabbstarten använder system.ai.gpt-5-2. Om du vill anropa en annan modell byter du ut den mot dess fullständigt kvalificerade namn.

Skicka din förfrågan

Ersätt <workspace-url>med din Azure Databricks workspace-URL.

Bash

curl https://<workspace-url>/ai-gateway/mlflow/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -d '{
    "model": "system.ai.gpt-5-2",
    "max_output_tokens": 256,
    "input": [
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "Hello!"}]
      },
      {
        "role": "assistant",
        "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]
      },
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "What is Databricks?"}]
      }
    ]
  }'

Python

from openai import OpenAI
import os

client = OpenAI(
  api_key=os.environ.get("DATABRICKS_TOKEN"),
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1",
)

response = client.responses.create(
  model="system.ai.gpt-5-2",
  max_output_tokens=256,
  input=[
    {"role": "user", "content": [{"type": "input_text", "text": "Hello!"}]},
    {"role": "assistant", "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]},
    {"role": "user", "content": [{"type": "input_text", "text": "What is Databricks?"}]},
  ],
)

print(response.output)

TypeScript

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: process.env.DATABRICKS_TOKEN,
  baseURL: 'https://<workspace-url>/ai-gateway/mlflow/v1',
});

const response = await client.responses.create({
  model: 'system.ai.gpt-5-2',
  max_output_tokens: 256,
  input: [
    { role: 'user', content: [{ type: 'input_text', text: 'Hello!' }] },
    { role: 'assistant', content: [{ type: 'output_text', text: 'Hello! How can I assist you today?' }] },
    { role: 'user', content: [{ type: 'input_text', text: 'What is Databricks?' }] },
  ],
});

console.log(response.output);

Se din begäran

Öppna modellen du frågade (system.ai.gpt-5-2) i Katalogutforskaren och välj fliken Metrics för att se förfrågan du just skickat i användningshistoriken, tillsammans med dess tokenanvändning och latens. Se Unity Gateway-observabilitet.

Nästa steg

  • Uppdaterades senast