Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Użyj tych przykładowych zapytań SQL z tabelami systemowymi , aby monitorować wydajność, użycie i koszty usługi SQL Warehouse. Zmodyfikuj zapytania zgodnie z potrzebami organizacji. Dodaj alerty , aby otrzymywać powiadomienia o nieoczekiwanych wartościach.
Wymagania
- Musisz mieć dostęp do tabel systemowych. Aby uzyskać informacje o wymaganiach, zobacz Monitorowanie aktywności konta przy użyciu tabel systemowych .
- Większość tabel systemowych wymaga, aby konto miało włączony Unity Catalog.
Tabele monitorowania usługi SQL Warehouse
| Tabela systemowa | Opis |
|---|---|
system.compute.warehouse_events |
Śledzi zdarzenia uruchamiania, zatrzymywania, skalowania w górę i skalowania w dół magazynu. |
system.compute.warehouses |
Zawiera migawki konfiguracji magazynu. |
system.query.history |
Rejestruje szczegółowe informacje o każdym zapytaniu wykonywanym w usłudze SQL Warehouse. |
system.billing.usage |
Zawiera rekordy rozliczeniowe dla wszystkich użycia usługi Azure Databricks. |
Przykład: użycie magazynu
Skorzystaj z poniższych zapytań, aby dowiedzieć się, w jaki sposób magazyn jest używany, w tym zapytania, użytkownicy i aplikacje napędzają największą aktywność.
Znajdowanie najwolniejszych zapytań w magazynie
SELECT
statement_id,
executed_by,
statement_type,
execution_status,
total_duration_ms,
execution_duration_ms,
compilation_duration_ms,
waiting_at_capacity_duration_ms,
read_rows,
produced_rows,
start_time,
statement_text
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND start_time >= NOW() - INTERVAL 1 DAY
ORDER BY
total_duration_ms DESC
LIMIT 50
Analizowanie trendów wydajności zapytań w czasie
SELECT
DATE(start_time) AS query_date,
COUNT(*) AS total_queries,
COUNT(CASE WHEN execution_status = 'FINISHED' THEN 1 END) AS successful_queries,
COUNT(CASE WHEN execution_status = 'FAILED' THEN 1 END) AS failed_queries,
ROUND(AVG(total_duration_ms), 0) AS avg_duration_ms,
ROUND(PERCENTILE(total_duration_ms, 0.5), 0) AS p50_duration_ms,
ROUND(PERCENTILE(total_duration_ms, 0.95), 0) AS p95_duration_ms,
ROUND(AVG(waiting_at_capacity_duration_ms), 0) AS avg_queue_wait_ms
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND start_time >= NOW() - INTERVAL 30 DAY
GROUP BY
DATE(start_time)
ORDER BY
query_date DESC
Znajdowanie najbardziej aktywnych użytkowników w magazynie
SELECT
executed_by,
COUNT(*) AS query_count,
ROUND(SUM(total_duration_ms) / 1000 / 60, 2) AS total_duration_minutes,
ROUND(AVG(total_duration_ms), 0) AS avg_duration_ms
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND start_time >= NOW() - INTERVAL 7 DAY
GROUP BY
executed_by
ORDER BY
query_count DESC
Znajdowanie najważniejszych aplikacji klienckich
SELECT
client_application,
CASE
WHEN query_source.job_info.job_id IS NOT NULL THEN 'Job'
WHEN query_source.dashboard_id IS NOT NULL THEN 'Dashboard'
WHEN query_source.legacy_dashboard_id IS NOT NULL THEN 'Legacy Dashboard'
WHEN query_source.alert_id IS NOT NULL THEN 'Alert'
WHEN query_source.notebook_id IS NOT NULL THEN 'Notebook'
WHEN query_source.genie_space_id IS NOT NULL THEN 'Genie Space'
WHEN query_source.sql_query_id IS NOT NULL THEN 'SQL Editor'
ELSE 'Other'
END AS source_type,
COUNT(*) AS query_count,
ROUND(AVG(total_duration_ms), 0) AS avg_duration_ms
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND start_time >= NOW() - INTERVAL 7 DAY
GROUP BY
client_application,
source_type
ORDER BY
query_count DESC
Monitorowanie nieudanych zapytań
SELECT
DATE(start_time) AS failure_date,
execution_status,
error_message,
COUNT(*) AS failure_count,
COLLECT_SET(executed_by) AS affected_users
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND execution_status IN ('FAILED', 'CANCELED')
AND start_time >= NOW() - INTERVAL 7 DAY
GROUP BY
DATE(start_time),
execution_status,
error_message
ORDER BY
failure_date DESC,
failure_count DESC
Przykład: ustalanie rozmiaru magazynu
Użyj następujących zapytań, aby określić, czy magazyn ma prawidłowy rozmiar. Zapytania oczekujące na pojemność sugerują, że należy zwiększyć wartość max_clusters. Zapytania z nadmiernym przepełnieniem dysku sugerują, że należy zwiększyć wielkość magazynu.
Identyfikowanie zapytań oczekujących na wydajność systemu
Zapytania o wysokich waiting_at_capacity_duration_ms wartościach spędzają czas w kolejce zamiast być wykonywanymi. Rozważ zwiększenie ustawienia magazynu max_clusters , aby umożliwić skalowanie magazynu.
SELECT
statement_id,
executed_by,
total_duration_ms,
waiting_at_capacity_duration_ms,
execution_duration_ms,
start_time,
statement_text
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND start_time >= NOW() - INTERVAL 7 DAY
AND waiting_at_capacity_duration_ms > 0
ORDER BY
waiting_at_capacity_duration_ms DESC
LIMIT 50
Identyfikowanie zapytań z nadmiernym rozlewem dysku
Wyciek dysku występuje, gdy zapytanie wymaga więcej pamięci niż jest dostępne. Rozważ zwiększenie rozmiaru magazynu w celu zwiększenia ilości pamięci zapytań. Nadmierne rozlewanie zazwyczaj oznacza, że zapytania wymagają optymalizacji lub że rozmiar magazynu danych jest niewystarczający dla danego obciążenia pracą.
SELECT
statement_id,
executed_by,
spilled_local_bytes / (1024 * 1024) AS spilled_mb,
read_bytes / (1024 * 1024) AS read_mb,
total_duration_ms,
start_time,
statement_text
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND start_time >= NOW() - INTERVAL 7 DAY
AND spilled_local_bytes > 0
ORDER BY
spilled_local_bytes DESC
LIMIT 50
Przykład: koszty magazynu
Skorzystaj z poniższych zapytań, aby zrozumieć i śledzić koszty związane z magazynami SQL.
Monitorowanie kosztów magazynu według dnia
SELECT
usage_date,
sku_name,
ROUND(SUM(usage_quantity), 2) AS total_dbus,
ROUND(SUM(usage_quantity * list_prices.pricing.default), 2) AS estimated_list_cost
FROM
system.billing.usage
LEFT JOIN system.billing.list_prices ON usage.sku_name = list_prices.sku_name
AND price_end_time IS NULL
WHERE
usage_metadata.warehouse_id = '<warehouse-id>'
AND usage_date >= NOW() - INTERVAL 30 DAY
GROUP BY
usage_date,
sku_name
ORDER BY
usage_date DESC
Korelacja zdarzeń magazynu z liczbą zapytań
To zapytanie pomaga zrozumieć relację między zdarzeniami skalowania magazynu i działaniem zapytań w celu zidentyfikowania szans optymalizacji kosztów.
WITH hourly_events AS (
SELECT
DATE_TRUNC('hour', event_time) AS event_hour,
warehouse_id,
MAX(cluster_count) AS max_clusters,
COLLECT_SET(event_type) AS event_types
FROM
system.compute.warehouse_events
WHERE
warehouse_id = '<warehouse-id>'
AND event_time >= NOW() - INTERVAL 7 DAY
GROUP BY
DATE_TRUNC('hour', event_time),
warehouse_id
),
hourly_queries AS (
SELECT
DATE_TRUNC('hour', start_time) AS query_hour,
COUNT(*) AS query_count,
ROUND(AVG(total_duration_ms), 0) AS avg_duration_ms,
ROUND(AVG(waiting_at_capacity_duration_ms), 0) AS avg_queue_wait_ms
FROM
system.query.history
WHERE
compute.warehouse_id = '<warehouse-id>'
AND start_time >= NOW() - INTERVAL 7 DAY
GROUP BY
DATE_TRUNC('hour', start_time)
)
SELECT
COALESCE(e.event_hour, q.query_hour) AS hour,
q.query_count,
q.avg_duration_ms,
q.avg_queue_wait_ms,
e.max_clusters,
e.event_types
FROM
hourly_events e
FULL OUTER JOIN hourly_queries q ON e.event_hour = q.query_hour
ORDER BY
hour DESC