Eseguire query con l'API Google Gemini

Important

L'API Google Gemini è compatibile solo con i modelli di base Gemini pay per token e i modelli esterni. Per un'API unificata che funziona su tutte le piattaforme, usare il Chat Completions API.

L'API Google Gemini offre la compatibilità nativa di Google AI SDK per i modelli Gemini in Azure Databricks. Usare questa API quando sono necessarie funzionalità specifiche di Gemini o si sta eseguendo la migrazione del codice esistente di Google AI SDK.

Requisiti

  • Vedere Requisiti.
  • Installare il google-genai pacchetto sul dispositivo di calcolo.

Esempi di query

Gli esempi seguenti illustrano come eseguire query su un endpoint con pagamento in base al token dell'API Modello di base usando l'API Google Gemini.

Pitone

from google import genai
from google.genai import types
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = genai.Client(
    api_key="databricks",
    http_options=types.HttpOptions(
        base_url="https://example.staging.cloud.databricks.com/serving-endpoints/gemini",
        headers={
            "Authorization": f"Bearer {DATABRICKS_TOKEN}",
        },
    ),
)

response = client.models.generate_content(
    model="databricks-gemini-2-5-pro",
    contents=[
        types.Content(
            role="user",
            parts=[types.Part(text="What is a mixture of experts model?")],
        ),
    ],
    config=types.GenerateContentConfig(
        max_output_tokens=256,
    ),
)

print(response.text)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "contents": [
    {
      "role": "user",
      "parts": [{"text": "What is a mixture of experts model?"}]
    }
  ],
  "generationConfig": {
    "maxOutputTokens": 256
  }
}' \
https://<workspace_host>.databricks.com/serving-endpoints/gemini/v1beta/models/databricks-gemini-2-5-pro:generateContent

Modelli supportati

Modelli di base ospitati da Databricks

  • databricks-gemini-3-1-pro
  • databricks-gemini-3-1-flash-lite
  • databricks-gemini-3-pro
  • databricks-gemini-3-flash
  • databricks-gemini-2-5-pro
  • databricks-gemini-2-5-flash

Modelli esterni

  • Provider di modelli Google

Tipi di input supportati

I modelli Gemini su Azure Databricks accettano input di testo e immagine. Le varianti Pro (databricks-gemini-3-1-pro, databricks-gemini-3-pro, databricks-gemini-2-5-pro) e Flash (databricks-gemini-3-1-flash-lite, databricks-gemini-3-flash, databricks-gemini-2-5-flash) accettano anche input audio e video. Vedere Eseguire query sui modelli audio e video per esempi di richieste video e audio e consultare i modelli di visione per i requisiti di formato e dimensioni delle immagini. Per i tipi di input per modello, vedere Modelli di base ospitati in Databricks disponibili nelle API del modello di base.

Risorse aggiuntive

  • Last updated on