Быстрый старт с Unity Gateway

Отправьте свой первый запрос через Unity Gateway к OpenAI-совместимому эндпоинту.

Требования

Authenticate

Чтобы начать, используйте личный токен доступа. OAuth рекомендуется для производственных сценариев. Установите DATABRICKS_TOKEN токен для вашего рабочего пространства.

Личный маркер доступа

Экспорт личного токена доступа:

export DATABRICKS_TOKEN=<your-personal-access-token>

OAuth

Замените <workspace-url> на ваш URL рабочего пространства Azure Databricks. Затем войдите в систему с помощью CLI Azure Databricks и экспортируйте недолговечный токен OAuth:

databricks auth login --host https://<workspace-url>
export DATABRICKS_TOKEN=$(databricks auth token --host https://<workspace-url> | jq -r .access_token)

Выберите модель

Azure Databricks предоставляет готовые к использованию модели, которые вы можете просмотреть в интерфейсе схемы system.aiили посмотреть полный список поддерживаемых моделей здесь.

В этом кратком руководстве используется system.ai.gpt-5-2. Чтобы обратиться к другой модели, подставьте её полное квалифицированное имя.

Отправьте свой запрос

Замените <workspace-url> на ваш URL рабочего пространства Azure Databricks.

Bash

curl https://<workspace-url>/ai-gateway/mlflow/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -d '{
    "model": "system.ai.gpt-5-2",
    "max_output_tokens": 256,
    "input": [
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "Hello!"}]
      },
      {
        "role": "assistant",
        "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]
      },
      {
        "role": "user",
        "content": [{"type": "input_text", "text": "What is Databricks?"}]
      }
    ]
  }'

Python

from openai import OpenAI
import os

client = OpenAI(
  api_key=os.environ.get("DATABRICKS_TOKEN"),
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1",
)

response = client.responses.create(
  model="system.ai.gpt-5-2",
  max_output_tokens=256,
  input=[
    {"role": "user", "content": [{"type": "input_text", "text": "Hello!"}]},
    {"role": "assistant", "content": [{"type": "output_text", "text": "Hello! How can I assist you today?"}]},
    {"role": "user", "content": [{"type": "input_text", "text": "What is Databricks?"}]},
  ],
)

print(response.output)

TypeScript

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: process.env.DATABRICKS_TOKEN,
  baseURL: 'https://<workspace-url>/ai-gateway/mlflow/v1',
});

const response = await client.responses.create({
  model: 'system.ai.gpt-5-2',
  max_output_tokens: 256,
  input: [
    { role: 'user', content: [{ type: 'input_text', text: 'Hello!' }] },
    { role: 'assistant', content: [{ type: 'output_text', text: 'Hello! How can I assist you today?' }] },
    { role: 'user', content: [{ type: 'input_text', text: 'What is Databricks?' }] },
  ],
});

console.log(response.output);

Просмотреть запрос

Откройте модель, которую вы запросили (system.ai.gpt-5-2) в Каталоге Explorer и выберите вкладку Metrics , чтобы увидеть только что отправленный запрос в истории использования, а также её использование токена и задержку. См. наблюдаемость Unity Gateway.

Дальнейшие действия

  • Last updated on