Menjalankan kueri federasi di Snowflake (autentikasi dasar)

Halaman ini menjelaskan cara menyiapkan Federasi Lakehouse untuk menjalankan kueri federasi pada data Snowflake yang tidak dikelola oleh Azure Databricks. Untuk mempelajari selengkapnya tentang Federasi Lakehouse, lihat Apa itu Federasi Lakehouse?

Untuk menyambungkan ke database Snowflake Anda menggunakan Federasi Lakehouse, Anda harus membuat yang berikut ini di metastore Azure Databricks Unity Catalog Anda (ruang kerja yang dibuat setelah 9 November 2023 sudah memiliki metastore Katalog Unity yang disediakan secara otomatis):

  • Sebuah koneksi ke database Snowflake Anda.
  • Katalog asing yang mencerminkan database Snowflake Anda di Unity Catalog sehingga Anda dapat menggunakan sintaks kueri Unity Catalog dan alat tata kelola data untuk mengelola akses pengguna Azure Databricks ke database.

Halaman ini membahas cara menjalankan kueri federasi pada data Snowflake menggunakan autentikasi dasar (nama pengguna/kata sandi). Untuk metode autentikasi lainnya, lihat halaman berikut ini:

Anda dapat menjalankan kueri federasi di Snowflake menggunakan federasi kueri atau federasi katalog.

Dalam federasi kueri, JDBC mengarahkan kueri Katalog Unity ke basis data eksternal. Ini sangat ideal untuk pelaporan sesuai permintaan atau pekerjaan bukti konsep pada alur ETL Anda.

Di federasi katalog, kueri Katalog Unity dieksekusi langsung pada penyimpanan berkas. Pendekatan ini berguna untuk migrasi inkremental tanpa adaptasi kode atau sebagai model hibrid jangka panjang untuk organisasi yang harus mempertahankan beberapa data di Snowflake bersama data mereka yang terdaftar di Unity Catalog. Lihat Mengaktifkan integrasi katalog Snowflake.

Sebelum Anda mulai

Persyaratan ruang kerja:

  • Workspace telah diaktifkan untuk Unity Catalog. Ruang kerja yang dibuat setelah 9 November 2023 aktif untuk Katalog Unity secara otomatis, termasuk penyediaan metastore otomatis. Anda tidak perlu membuat metastore secara manual, kecuali jika ruang kerja Anda dibuat sebelum pengaktifan otomatis dan belum diaktifkan untuk Katalog Unity. Lihat Pengaktifan otomatis untuk Unity Catalog.

Persyaratan komputasi:

  • Konektivitas jaringan dari sumber daya komputasi Anda ke sistem database target. Lihat Rekomendasi jaringan untuk Lakehouse Federation.
  • Komputasi Azure Databricks harus menggunakan Databricks Runtime 13.3 LTS atau yang lebih tinggi serta mode akses Standar atau mode akses Dedicated .
  • Gudang SQL harus pro atau tanpa server dan harus menggunakan 2023.40 atau lebih tinggi.

Izin diperlukan:

  • Untuk membuat koneksi, Anda harus menjadi administrator metastore atau pengguna yang memiliki hak istimewa CREATE CONNECTION pada metastore Unity Catalog yang terhubung dengan ruang kerja. Di ruang kerja yang diaktifkan untuk Katalog Unity secara otomatis, admin ruang kerja memiliki CREATE CONNECTION hak istimewa secara default.
  • Untuk membuat katalog asing, Anda harus memiliki izin CREATE CATALOG di metastore dan menjadi pemilik koneksi atau memiliki hak istimewa CREATE FOREIGN CATALOG pada koneksi. Di ruang kerja yang diaktifkan untuk Katalog Unity secara otomatis, admin ruang kerja memiliki CREATE CATALOG hak istimewa secara default.

Persyaratan izin tambahan dinyatakan di setiap bagian berbasis tugas berikut.

Konfigurasi Microsoft Entra ID

Ikuti Mengonfigurasi ID Microsoft Entra untuk OAuth Eksternal dalam dokumentasi Snowflake.

Buat sambungan

Koneksi menentukan jalur dan kredensial untuk mengakses sistem database eksternal. Untuk membuat koneksi, Anda bisa menggunakan Catalog Explorer atau perintah SQL CREATE CONNECTION di buku catatan Azure Databricks atau editor kueri Databricks SQL.

Nota

Anda juga dapat menggunakan Databricks REST API atau Databricks CLI untuk membuat koneksi. Lihat perintah POST /api/2.1/unity-catalog/connections dan perintah Unity Catalog.

Izin diperlukan: Admin atau pengguna Metastore dengan CREATE CONNECTION hak istimewa.

Eksplorer Katalog

  1. Di ruang kerja Azure Databricks Anda, klik Ikon data.Katalog.

  2. Di bagian atas panel Katalog , klik ikon Tambahkan atau plusTambahkan ikon dan pilih Buat koneksi dari menu.

  3. Pada halaman Dasar-dasar Koneksi di wizard Menyiapkan Koneksi, masukkan nama Koneksi yang mudah dipahami.

  4. Pilih Tipe Koneksi dari Snowflake.

  5. Untuk Jenis autentikasi, pilih Username and password (autentikasi dasar) dari menu drop-down.

  6. (Opsional) Tambahkan komentar.

  7. Klik Berikutnya.

  8. Masukkan detail autentikasi dan koneksi berikut untuk gudang Snowflake Anda. Properti yang khusus untuk metode autentikasi yang Anda pilih didahului oleh Auth type dalam tanda kurung.

    • Host: Misalnya, snowflake-demo.east-us-2.azure.snowflakecomputing.com
    • Port: Misalnya, 443
    • Pengguna: Misalnya, snowflake-user
    • Kata Sandi : Misalnya,
  9. Klik Berikutnya.

  10. Pada halaman Detail koneksi , tentukan yang berikut ini:

    • Snowflake Warehouse: Misalnya, my-snowflake-warehouse
    • (Opsional) host proksi: Host proksi yang digunakan untuk terhubung ke Snowflake. Anda juga harus memilih Menggunakan proksi dan menentukan port proksi.
    • (Opsional) Gunakanproksi : Apakah ingin terhubung ke Snowflake menggunakan server proksi.
    • (Opsional) port proksi: Port proksi yang digunakan untuk menghubungkan ke Snowflake. Anda juga harus memilih Gunakan proksi dan menentukan host proksi .
    • (Opsional) Peran Snowflake: Peran keamanan default yang akan digunakan untuk sesi setelah terhubung.
  11. Klik Berikutnya.

  12. Pada halaman dasar-dasar katalog , masukkan nama untuk katalog asing. Katalog asing mencerminkan database dalam sistem data eksternal sehingga Anda dapat mengkueri dan mengelola akses ke data dalam database tersebut menggunakan Azure Databricks dan Unity Catalog.

  13. (Opsional) Klik Uji koneksi untuk mengonfirmasi bahwa koneksi berfungsi.

  14. Klik Buat katalog.

  15. Pada halaman Access, pilih ruang kerja tempat pengguna dapat mengakses katalog yang Anda buat. Anda dapat memilih Semua ruang kerja memiliki akses, atau klik Tetapkan ke ruang kerja, pilih ruang kerja, lalu klik Tetapkan.

  16. Ubah Pemilik yang akan dapat mengelola akses ke semua objek dalam katalog. Mulai ketik prinsipal dalam kotak teks, lalu klik prinsipal dalam hasil yang dikembalikan.

  17. Berikan Hak Akses pada katalog. Klik Berikan:

    1. Tentukan Prinsipal yang akan memiliki akses ke objek dalam katalog. Mulai ketik prinsipal dalam kotak teks, lalu klik prinsipal dalam hasil yang dikembalikan.
    2. Pilih preset Hak Istimewa untuk diberikan kepada setiap prinsipal. Semua pengguna akun diberikan BROWSE secara default.
      • Pilih Pembaca Data dari menu drop-down untuk memberikan izin read pada objek dalam katalog.
      • Pilih Editor Data dari menu drop-down untuk memberikan hak istimewa dan pada objek dalam katalog.
      • Pilih hak istimewa yang akan diberikan secara manual.
    3. Klik pada Berikan.
  18. Klik Berikutnya.

  19. Pada halaman Metadata, tentukan pasangan kunci-nilai untuk tag. Untuk informasi selengkapnya, lihat Menerapkan tag ke objek yang dapat diamankan pada Katalog Unity.

  20. (Opsional) Tambahkan komentar.

  21. Kliklah Simpan.

SQL

Jalankan perintah berikut ini di buku catatan atau editor kueri Databricks SQL.

CREATE CONNECTION <connection-name> TYPE snowflake
OPTIONS (
  host '<hostname>',
  port '<port>',
  sfWarehouse '<warehouse-name>',
  user '<user>',
  password '<password>'
);

Kami menyarankan agar Anda menggunakan Azure Databricks rahasia alih-alih string teks biasa untuk nilai sensitif seperti kredensial. Contohnya:

CREATE CONNECTION <connection-name> TYPE snowflake
OPTIONS (
  host '<hostname>',
  port '<port>',
  sfWarehouse '<warehouse-name>',
  user secret ('<secret-scope>','<secret-key-user>'),
  password secret ('<secret-scope>','<secret-key-password>')
)

Untuk informasi tentang mengatur rahasia, lihat Manajemen Rahasia.

Pengidentifikasi database peka pada penggunaan huruf besar dan kecil

Bidang database dari katalog asing dipetakan ke pengidentifikasi database Snowflake. Jika pengidentifikasi basis data Snowflake tidak sensitif terhadap huruf besar atau kecil, penggunaan huruf dalam katalog asing <database-name> akan tetap dipertahankan. Namun, jika identitas database Snowflake peka terhadap huruf besar atau kecil, Anda harus membungkus katalog eksternal <database-name> dalam tanda kutip ganda untuk mempertahankan bentuk tersebut.

Contohnya:

  • database dikonversi ke DATABASE

  • "database" dikonversi ke database

  • "database""" dikonversi ke database"

    Untuk lolos dari kutipan ganda, gunakan tanda kutip ganda lainnya.

  • "database"" menghasilkan kesalahan karena tanda kutip ganda tidak di-escape dengan benar.

Untuk informasi selengkapnya, lihat persyaratan Pengidentifikasi dalam dokumentasi Snowflake.

Fitur pushdown yang didukung

Fitur pushdown berikut didukung:

  • Filter
  • Proyeksi
  • Batasan
  • Bergabung
  • Agregat (Rata-rata, Korelasi, Kovarian Populasi, Kovarian Sampel, Hitung, Maksimum, Minimum, Deviasi Standar Populasi, Deviasi Standar Sampel, Jumlah, Varians Populasi, Varians Sampel)
  • Fungsi (Fungsi string, fungsi Matematika, fungsi Data, Waktu dan Tanda Waktu, dan fungsi lain-lain, seperti Alias, Cast, SortOrder)
  • Fungsi Windows (DenseRank, Rank, RowNumber)
  • Pengurutan

Pemetaan jenis data

Saat Anda membaca data dari Snowflake ke Spark, jenis data dipetakan sebagai berikut:

Jenis Serpihan Salju Jenis Spark
desimal, angka, numerik TipeDesimal
bigint, byteint, int, integer, smallint, tinyint Tipe Integer
float (bilangan titik mengambang), float4 (bilangan vektor 4 titik mengambang), float8 (bilangan vektor 8 titik mengambang) FloatType
double, presisi ganda, nyata DoubleType
char, karakter, untai, teks, waktu, varchar StringType
biner BinaryType
Boolean BooleanType
tanggal Jenis Tanggal
tanggal waktu, timestamp, timestamp_ltz, timestamp_ntz, timestamp_tz Tipe Penanda Waktu