Panduan memulai cepat Unity Gateway

Kirim permintaan pertama Anda melalui Unity Gateway ke endpoint yang kompatibel dengan OpenAI.

Persyaratan

Authenticate

Untuk memulai, gunakan token akses pribadi. OAuth direkomendasikan untuk kasus penggunaan produksi. Atur DATABRICKS_TOKEN menjadi token untuk ruang kerja Anda.

Token akses pribadi

Ekspor token akses pribadi:

export DATABRICKS_TOKEN=<your-personal-access-token>

OAuth

Ganti <workspace-url> dengan URL workspace Azure Databricks Anda. Kemudian masuk dengan CLI Azure Databricks dan ekspor token OAuth yang berumur pendek:

databricks auth login --host https://<workspace-url>
export DATABRICKS_TOKEN=$(databricks auth token --host https://<workspace-url> | jq -r .access_token)

Pilih model

Azure Databricks menyediakan model siap pakai yang dapat Anda jelajahi di UI di bawah system.ai skema, atau lihat daftar lengkap model yang didukung di sini.

Panduan memulai cepat ini menggunakan system.ai.gpt-5-2. Untuk melakukan query pada model lain, tukar nama lengkap model tersebut.

Kirim permintaan Anda

Ganti <workspace-url> dengan URL workspace Azure Databricks Anda.

Bash

curl https://<workspace-url>/ai-gateway/mlflow/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -d '{
    "model": "system.ai.gpt-5-2",
    "max_output_tokens": 256,
    "input": [
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "Hello!"}]
      },
      {
        "role": "assistant",
        "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]
      },
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "What is Databricks?"}]
      }
    ]
  }'

Python

from openai import OpenAI
import os

client = OpenAI(
  api_key=os.environ.get("DATABRICKS_TOKEN"),
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1",
)

response = client.responses.create(
  model="system.ai.gpt-5-2",
  max_output_tokens=256,
  input=[
    {"role": "user", "content": [{"type": "input_text", "text": "Hello!"}]},
    {"role": "assistant", "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]},
    {"role": "user", "content": [{"type": "input_text", "text": "What is Databricks?"}]},
  ],
)

print(response.output)

TypeScript

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: process.env.DATABRICKS_TOKEN,
  baseURL: 'https://<workspace-url>/ai-gateway/mlflow/v1',
});

const response = await client.responses.create({
  model: 'system.ai.gpt-5-2',
  max_output_tokens: 256,
  input: [
    { role: 'user', content: [{ type: 'input_text', text: 'Hello!' }] },
    { role: 'assistant', content: [{ type: 'output_text', text: 'Hello! How can I assist you today?' }] },
    { role: 'user', content: [{ type: 'input_text', text: 'What is Databricks?' }] },
  ],
});

console.log(response.output);

Lihat permintaan Anda

Buka model yang Anda kueai (system.ai.gpt-5-2) di Catalog Explorer dan pilih tab Metrics untuk melihat permintaan yang baru saja Anda kirim di riwayat penggunaan, beserta penggunaan token dan latensinya. Lihat observabilitas Unity Gateway.

Langkah berikutnya

  • Terakhir diperbarui pada