Unity Gateway gyorsindítás

Küldd el az első kérésedet a Unity Gateway-en keresztül az OpenAI-kompatibilis végpont ellen.

Követelmények

Authenticate

A kezdéshez használj személyes hozzáférési tokent. Az OAuth gyártási felhasználási esetekre ajánlott. Állítsd a DATABRICKS_TOKEN értékét a munkaterületed tokenjére.

Személyes hozzáférési jogkivonat

Exportálj egy személyes hozzáférési tokent:

export DATABRICKS_TOKEN=<your-personal-access-token>

OAuth

Cseréld le a(z) <workspace-url> elemet erre: az Azure Databricks-munkaterületed URL-címe. Ezután jelentkezz be az Azure Databricks CLI-vel, és exportálj egy rövid életű OAuth tokent:

databricks auth login --host https://<workspace-url>
export DATABRICKS_TOKEN=$(databricks auth token --host https://<workspace-url> | jq -r .access_token)

Válassz egy modellt

Az Azure Databricks kész modelleket kínál, amelyeket a kezelőfelületen a system.ai séma alatt böngészhetsz, vagy itt megtekintheted a támogatott modellek teljes listáját.

Ez a rövid útmutató a(z) system.ai.gpt-5-2 használatával készült. Egy másik modell lekérdezéséhez helyettesítsd be a teljes nevét.

Küldd el a kérésedet

Cseréld <workspace-url> le az Azure Databricks-munkaterületed URL-címére.

Bash

curl https://<workspace-url>/ai-gateway/mlflow/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -d '{
    "model": "system.ai.gpt-5-2",
    "max_output_tokens": 256,
    "input": [
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "Hello!"}]
      },
      {
        "role": "assistant",
        "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]
      },
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "What is Databricks?"}]
      }
    ]
  }'

Python

from openai import OpenAI
import os

client = OpenAI(
  api_key=os.environ.get("DATABRICKS_TOKEN"),
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1",
)

response = client.responses.create(
  model="system.ai.gpt-5-2",
  max_output_tokens=256,
  input=[
    {"role": "user", "content": [{"type": "input_text", "text": "Hello!"}]},
    {"role": "assistant", "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]},
    {"role": "user", "content": [{"type": "input_text", "text": "What is Databricks?"}]},
  ],
)

print(response.output)

TypeScript

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: process.env.DATABRICKS_TOKEN,
  baseURL: 'https://<workspace-url>/ai-gateway/mlflow/v1',
});

const response = await client.responses.create({
  model: 'system.ai.gpt-5-2',
  max_output_tokens: 256,
  input: [
    { role: 'user', content: [{ type: 'input_text', text: 'Hello!' }] },
    { role: 'assistant', content: [{ type: 'output_text', text: 'Hello! How can I assist you today?' }] },
    { role: 'user', content: [{ type: 'input_text', text: 'What is Databricks?' }] },
  ],
});

console.log(response.output);

Lásd a kérésedet

Nyisd meg a kérdezett modellt (system.ai.gpt-5-2) a Katalógus Explorerben, és válaszd a Metrikák fület, hogy lásd a most küldött kérést a használati előzményben, valamint annak token használatát és késleltetését. Lásd Unity Gateway megfigyelhetőségét.

Következő lépések

  • Last updated on