Mendapatkan data dari Amazon S3

Penyerapan data adalah proses pemuatan data dari satu atau beberapa sumber ke dalam tabel dalam Azure Data Explorer. Setelah penyerapan, data tersedia untuk kueri. Dalam artikel ini, Anda mempelajari cara mendapatkan data dari Amazon S3 ke dalam tabel baru atau yang sudah ada.

Untuk informasi selengkapnya tentang Amazon S3, lihat Apa itu Amazon S3?

Untuk informasi umum tentang penyerapan data, lihat gambaran umum penyerapan data Azure Data Explorer.

Prasyarat

Dapatkan data

  1. Pilih Kueri dari menu sebelah kiri.

  2. Klik kanan database tempat Anda ingin menyerap data, lalu pilih Dapatkan data.

    Cuplikan layar tab kueri, dengan klik kanan pada database dan dialog dapatkan opsi terbuka.

Sumber

Di jendela Dapatkan data, tab Sumber dipilih.

Pilih sumber data dari daftar yang tersedia. Dalam contoh ini, serap data dari Amazon S3.

Cuplikan layar jendela dapatkan data dengan tab sumber dipilih.

Konfigurasikan

  1. Pilih database dan tabel tujuan. Untuk menyerap data ke dalam tabel baru, pilih + Tabel baru dan masukkan nama tabel.

    Catatan

    Nama tabel dapat mencapai 1.024 karakter, termasuk spasi, karakter alfanumerik, tanda hubung, dan garis bawah. Karakter khusus tidak didukung.

  2. Di bidang URI, tempelkan string koneksi untuk satu wadah atau objek individual dalam format berikut.

    Wadah: https://Nama Bucket.s3.Nama Wilayah.amazonaws.com

    Objek: ObjectName;AwsCredentials=AwsAccessID,AwsSecretKey

    Secara opsional, Anda dapat menerapkan filter wadah untuk memfilter data sesuai dengan ekstensi file tertentu.

    Screenshot tab pengaturan dengan tabel baru ditambahkan dan string koneksi Amazon S3 ditempel.

    Catatan

    Penyerapan mendukung ukuran file maksimum 6 GB. Rekomendasinya adalah menyerap file antara 100 MB dan 1 GB.

  3. Pilih Selanjutnya.

Inspeksi

Tab periksa terbuka dengan pratinjau data.

Untuk menyelesaikan proses penyerapan, pilih Selesai.

Cuplikan layar tab inspeksi.

Opsional:

Edit kolom

Catatan

  • Untuk format tabular (CSV, TSV, PSV), Anda tidak dapat memetakan kolom dua kali. Untuk memetakan ke kolom yang sudah ada, pertama-tama hapus kolom baru.
  • Anda tidak dapat mengubah tipe kolom yang sudah ada. Jika Anda mencoba memetakan ke kolom yang memiliki format yang berbeda, Anda mungkin berakhir dengan kolom kosong.

Perubahan yang dapat Anda lakukan dalam tabel tergantung pada parameter berikut:

  • Jenis tabel baru atau sudah ada
  • Jenis pemetaan baru atau sudah ada
Jenis tabel Jenis Pemetaan Penyesuaian yang tersedia
Tabel Baru Pemetaan Baru Ganti nama kolom, ubah jenis data, ubah sumber data, transformasi pemetaan, tambahkan kolom, hapus kolom
Tabel yang sudah ada Pemetaan Baru Tambahkan kolom (di mana Anda kemudian dapat mengubah jenis data, mengganti nama, dan memperbarui)
Tabel yang sudah ada Pemetaan yang ada tidak ada

Cuplikan layar kolom terbuka untuk pengeditan.

Pemetaan transformasi

Beberapa pemetaan format data (Parquet, JSON, dan Avro) mendukung transformasi sederhana pada waktu penerimaan data. Untuk menerapkan transformasi pemetaan, buat atau perbarui kolom di jendela Edit kolom .

Transformasi pemetaan dapat dilakukan pada kolom jenis string atau datetime, dengan sumber memiliki tipe data int atau long. Transformasi pemetaan yang didukung adalah:

  • TanggalWaktuDariDetikUnix
  • DateTimeFromUnixMilliseconds
  • DateTimeFromUnixMicroseconds
  • DateTimeFromUnixNanoseconds

Opsi tingkat lanjut berdasarkan jenis data

Data Tabular (CSV, TSV, PSV):

  • Jika Anda menyerap format tabular dalam tabel yang sudah ada, Anda dapat memilih menu drop-down pemetaan tabel dan pilih Gunakan pemetaan yang sudah ada. Data tabular tidak selalu menyertakan nama kolom yang digunakan untuk memetakan data sumber ke kolom yang ada. Ketika opsi ini dicentang, pemetaan dilakukan secara berurutan, dan skema tabel tetap sama.

  • Jika tidak, buat pemetaan baru.

  • Untuk menggunakan baris pertama sebagai nama kolom, pilih Header baris pertama.

    Cuplikan layar opsi pemetaan.

JSON:

  • Untuk menentukan pembagian kolom data JSON, pilih Tingkat berlapis, dari 1 hingga 100.

Ringkasan

Di jendela Persiapan data, ketiga langkah menunjukkan tanda centang hijau saat penyerapan data berhasil diselesaikan. Anda bisa menampilkan perintah yang digunakan setiap langkah, atau memilih kartu untuk mengkueri, memvisualisasikan, atau menghilangkan data yang diserap.

Cuplikan layar halaman ringkasan dengan penyerapan yang berhasil diselesaikan.