Mendapatkan data dari Amazon S3

Penyerapan data adalah proses yang digunakan untuk memuat data dari satu atau beberapa sumber ke dalam tabel di Azure Data Explorer. Setelah diserap, data menjadi tersedia untuk kueri. Dalam artikel ini, Anda mempelajari cara mendapatkan data dari Amazon S3 ke dalam tabel baru atau yang sudah ada.

Untuk informasi selengkapnya tentang Amazon S3, lihat Apa itu Amazon S3?.

Untuk informasi umum tentang penyerapan data, lihat Gambaran umum penyerapan data azure Data Explorer.

Prasyarat

Dapatkan data

  1. Dari menu sebelah kiri, pilih Kueri.

  2. Klik kanan pada database tempat Anda ingin menyerap data, lalu pilih Dapatkan data.

    Cuplikan layar tab kueri, dengan klik kanan pada database dan dialog dapatkan opsi terbuka.

Source

Di jendela Dapatkan data, tab Sumber dipilih.

Pilih sumber data dari daftar yang tersedia. Dalam contoh ini, Anda menyerap data dari Amazon S3.

Cuplikan layar jendela dapatkan data dengan tab sumber dipilih.

Konfigurasikan

  1. Pilih database dan tabel target. Jika Anda ingin menyerap data ke dalam tabel baru, pilih +Tabel baru dan masukkan nama tabel.

    Catatan

    Nama tabel dapat mencapai 1024 karakter termasuk spasi, alfanumerik, tanda hubung, dan garis bawah. Karakter khusus tidak didukung.

  2. Di bidang URI, tempelkan string koneksi wadah tunggal, atau objek individual dalam format berikut.

    Bucket: https:// NamaWilayahBucketName.s3..amazonaws.com

    Objek: ObjectName;AwsCredentials=AwsAccessID,AwsSecretKey

    Secara opsional, Anda dapat menerapkan filter wadah untuk memfilter data sesuai dengan ekstensi file tertentu.

    Cuplikan layar tab konfigurasi dengan tabel baru dimasukkan dan Amazon S3 string koneksi ditempelkan.

    Catatan

    Penyerapan mendukung ukuran file maksimum 6 GB. Rekomendasinya adalah menyerap file antara 100 MB dan 1 GB.

  3. Pilih Selanjutnya.

Memeriksa

Tab inspeksi terbuka dengan pratinjau data.

Untuk menyelesaikan proses penyerapan, pilih Selesai.

Cuplikan layar tab inspeksi.

Opsional:

Edit kolom

Catatan

  • Untuk format tabular (CSV, TSV, PSV), Anda tidak dapat memetakan kolom dua kali. Untuk memetakan ke kolom yang sudah ada, pertama-tama hapus kolom baru.
  • Anda tidak dapat mengubah tipe kolom yang sudah ada. Jika Anda mencoba memetakan ke kolom yang memiliki format yang berbeda, Anda mungkin berakhir dengan kolom kosong.

Perubahan yang dapat Anda lakukan dalam tabel tergantung pada parameter berikut:

  • Pilih Baru atau Yang Sudah Ada
  • Pilih Baru atau Yang Sudah Ada
Jenis tabel Jenis Pemetaan Penyesuaian yang tersedia
Tabel Baru Tambahkan Pemetaan Baru Ganti nama kolom, ubah jenis data, ubah sumber data, transformasi pemetaan, tambahkan kolom, hapus kolom
Tabel yang sudah ada Tambahkan Pemetaan Baru Tambahkan kolom (di mana Anda kemudian dapat mengubah jenis data, mengganti nama, dan memperbarui)
Tabel yang sudah ada Pemetaan yang ada tidak ada

Cuplikan layar kolom terbuka untuk pengeditan.

Memindahkan transformasi

Some data format mappings (Parquet, JSON, and Avro) support simple ingest-time transformations. Untuk menerapkan transformasi pemetaan, buat atau perbarui kolom di jendela Edit kolom .

Transformasi pemetaan dapat dilakukan pada kolom jenis string atau tanggalwaktu, dengan sumber memiliki tipe data int atau panjang. Supported mapping transformations are:

  • DateTimeFromUnixSeconds
  • DateTimeFromUnixMilliseconds
  • DateTimeFromUnixMicroseconds
  • DateTimeFromUnixNanoseconds

Opsi tingkat lanjut berdasarkan jenis data

Tabular (CSV, TSV, PSV):

  • Jika Anda menyerap format tabular dalam tabel yang sudah ada, Anda bisa memilih Tingkat Lanjut>Pertahankan skema tabel saat ini. Data tabular tidak selalu menyertakan nama kolom yang digunakan untuk memetakan data sumber ke kolom yang sudah ada. Ketika opsi ini dicentang, pemetaan dilakukan secara berurutan, dan skema tabel tetap sama. Jika opsi ini tidak dicentang, kolom baru dibuat untuk data masuk, terlepas dari struktur data.

  • Untuk menggunakan baris pertama sebagai nama kolom, pilih Baris pertama Tingkat Lanjut>adalah header kolom.

    Cuplikan layar opsi CSV tingkat lanjut.

JSON:

  • Untuk menentukan pembagian kolom data JSON, pilihTingkat BerlapisTingkat Lanjut>, dari 1 hingga 100.

  • Jika Anda memilih Tingkat Lanjut>Abaikan kesalahan format data, data diserap dalam format JSON. Jika Anda membiarkan kotak centang ini tidak dipilih, data diserap dalam format multijson.

    Cuplikan layar opsi JSON tingkat lanjut.

Ringkasan

Di jendela Persiapan data, ketiga langkah ditandai dengan tanda centang hijau saat penyerapan data berhasil diselesaikan. Anda bisa menampilkan perintah yang digunakan untuk setiap langkah, atau memilih kartu untuk mengkueri, memvisualisasikan, atau menghilangkan data yang diserap.

Cuplikan layar halaman ringkasan dengan penyerapan yang berhasil diselesaikan.