Condividi tramite

Eseguire query con l'API Google Gemini

Important

L'API Google Gemini è compatibile solo con i modelli di base Gemini pay per token e i modelli esterni. Per un'API unificata che funziona su tutte le piattaforme, usare il Chat Completions API.

L'API Google Gemini offre la compatibilità nativa di Google AI SDK per i modelli Gemini in Azure Databricks. Usare questa API quando sono necessarie funzionalità specifiche di Gemini o si sta eseguendo la migrazione del codice esistente di Google AI SDK.

Requisiti

  • Vedere Requisiti.
  • Installare il google-genai pacchetto sul dispositivo di calcolo.

Esempi di query

Gli esempi seguenti illustrano come eseguire query su un endpoint con pagamento in base al token dell'API Modello di base usando l'API Google Gemini.

Pitone

from google import genai
from google.genai import types
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = genai.Client(
    api_key="databricks",
    http_options=types.HttpOptions(
        base_url="https://example.staging.cloud.databricks.com/serving-endpoints/gemini",
        headers={
            "Authorization": f"Bearer {DATABRICKS_TOKEN}",
        },
    ),
)

response = client.models.generate_content(
    model="databricks-gemini-2-5-pro",
    contents=[
        types.Content(
            role="user",
            parts=[types.Part(text="What is a mixture of experts model?")],
        ),
    ],
    config=types.GenerateContentConfig(
        max_output_tokens=256,
    ),
)

print(response.text)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "contents": [
    {
      "role": "user",
      "parts": [{"text": "What is a mixture of experts model?"}]
    }
  ],
  "generationConfig": {
    "maxOutputTokens": 256
  }
}' \
https://<workspace_host>.databricks.com/serving-endpoints/gemini/v1beta/models/databricks-gemini-2-5-pro:generateContent

Modelli supportati

Modelli di base ospitati da Databricks

  • databricks-gemini-3-1-pro
  • databricks-gemini-3-1-flash-lite
  • databricks-gemini-3-pro
  • databricks-gemini-3-flash
  • databricks-gemini-2-5-pro
  • databricks-gemini-2-5-flash

Modelli esterni

  • Provider di modelli Google

Risorse aggiuntive

  • Last updated on