Memfilter dan menyerap ke Azure Synapse SQL menggunakan editor tanpa kode Azure Stream Analytics

Artikel ini menjelaskan cara menggunakan editor tanpa kode untuk membuat pekerjaan Azure Stream Analytics dengan mudah. Ini terus membaca dari Azure Event Hubs Anda, memfilter data masuk, lalu menulis hasilnya terus menerus ke tabel SQL Synapse.

Prasyarat

  • Sumber daya Azure Event Hubs Anda harus dapat diakses publik dan tidak dapat berada di belakang firewall atau diamankan di Microsoft Azure Virtual Network.
  • Data di Azure Event Hubs Anda harus diserialisasikan dalam format JSON, CSV, atau Avro.

Mengembangkan pekerjaan Stream Analytics untuk memfilter dan mengambil data

Gunakan langkah-langkah berikut untuk mengembangkan pekerjaan Azure Stream Analytics untuk memfilter dan menyerap data real time ke dalam tabel SQL Synapse.

  1. Di portal Azure, temukan dan pilih instans Azure Event Hubs Anda.

  2. Pilih Fitur>Data Proses, dan pilih Mulai pada kartu Filter dan serap ke Synapse SQL.
    Cuplikan layar yang menampilkan data Azure Event Hubs di kartu mulai proses.

  3. Masukkan nama untuk mengidentifikasi pekerjaan Analisis Aliran Anda, lalu pilih Buat.
    Cuplikan layar yang menampilkan jendela pekerjaan Azure Stream Analytics Baru tempat Anda memasukkan nama pekerjaan.

  4. Tentukan Jenis serialisasi data Anda di jendela Azure Event Hubs dan Metode autentikasi yang akan digunakan pekerjaan untuk menyambungkan ke Azure Event Hubs. Kemudian pilih Sambungkan.
    Cuplikan layar yang menampilkan konfigurasi koneksi Azure Event Hubs.

  5. Saat koneksi berhasil dibuat dan Anda memiliki aliran data yang mengalir ke instans Azure Event Hubs, Anda akan segera melihat dua hal:

    • Bidang/kolom yang ada dalam data input. Anda dapat memilih Tambahkan bidang atau pilih simbol tiga titik di samping bidang untuk menghapus, mengganti nama, atau mengubah jenisnya.
      Cuplikan layar memperlihatkan daftar bidang Azure Event Hubs tempat Anda bisa menghapus, mengganti nama, atau mengubah jenis bidang.
    • Sampel langsung dari data masuk di tabel Pratinjau Data yang ada di bawah tampilan diagram. Ini secara otomatis di-refresh secara berkala. Anda dapat memilih Jeda pratinjau streaming untuk melihat tampilan statis data input sampel.
      Cuplikan layar yang menampilkan sampel data pada Pratinjau Data.

  6. Pada area Filter, pilih kolom untuk menyaring data masuk sesuai kondisi.
    Cuplikan layar memperlihatkan area Filter tempat Anda bisa memfilter data masuk dengan kondisi.

  7. Pilih tabel Synapse SQL untuk mengirim data yang difilter:

    1. Pilih langganan, Database (nama set SQL khusus) dan Metode autentikasi dari menu drop-down.
    2. Masukkan Nama tabel tempat data yang difilter akan diserap. Pilih Sambungkan.
      Cuplikan layar memperlihatkan detail koneksi tabel Synapse SQL.

    Catatan

    Skema tabel harus sama persis dengan jumlah bidang dan jenisnya yang dihasilkan oleh pratinjau data Anda.

  8. Secara opsional, pilih Dapatkan pratinjau statis/Refresh pratinjau statis untuk melihat pratinjau data yang akan diserap dalam tabel SQL Synapse yang dipilih.
    Cuplikan layar memperlihatkan opsi Ambil pratinjau statis/Segarkan pratinjau statis.

  9. Pilih Simpan lalu pilih Mulai pekerjaan Azure Stream Analytics.
    Cuplikan layar memperlihatkan opsi Simpan dan Mulai.

  10. Untuk memulai pekerjaan, tentukan:

    • Jumlah Streaming Units (SUs) pekerjaan yang dijalankan. SU mewakili jumlah komputasi dan memori yang dialokasikan untuk pekerjaan tersebut. Kami menyarankan agar Anda memulai dengan tiga dan kemudian menyesuaikan sesuai kebutuhan.
    • Penanganan kesalahan data output - Ini memungkinkan Anda menentukan perilaku yang Anda inginkan ketika output pekerjaan ke tujuan Anda gagal karena kesalahan data. Secara default, pekerjaan Anda mencoba kembali hingga operasi tulis berhasil. Anda juga dapat memilih untuk menghilangkan peristiwa output tersebut.
      Cuplikan layar yang menunjukkan opsi pekerjaan Start Stream Analytics tempat Anda dapat mengubah waktu output, mengatur jumlah unit streaming, dan memilih opsi Penanganan kesalahan data output.

  11. Setelah Anda memilih Mulai, pekerjaan mulai berjalan dalam dua menit dan metrik akan terbuka di bagian tab di bawah ini.

    Anda juga dapat melihat pekerjaan di bawah bagian Data Proses pada tab pekerjaan Azure Stream Analytics . Pilih Buka metrik untuk memantaunya atau menghentikan dan memulai ulang, sesuai kebutuhan.

    Cuplikan layar tab pekerjaan Azure Stream Analytics tempat Anda melihat status pekerjaan yang sedang berjalan.

Pertimbangan saat menggunakan fitur Replikasi Geografis Azure Event Hubs

Azure Event Hubs baru-baru ini meluncurkan fitur Geo-Replikasi dalam versi pratinjau publik. Fitur ini berbeda dari Geo Disaster Recovery Azure Event Hubs.

Ketika jenis failover adalah Forced dan konsistensi replikasi adalah Asynchronous, pekerjaan Azure Stream Analytics tidak menjamin output persis satu kali ke output Azure Event Hubs.

Azure Stream Analytics, sebagai produsen dengan output dengan event hub, mungkin mengamati penundaan watermark pada pekerjaan selama durasi failover dan selama pembatasan oleh Event Hubs jika lag replikasi antara primer dan sekunder mencapai lag maksimum yang dikonfigurasi.

Azure Stream Analytics, sebagai konsumen dengan Event Hubs sebagai Input, mungkin mengamati penundaan watermark pada pekerjaan selama proses failover dan mungkin melewati data atau menemukan data duplikat setelah failover selesai.

Karena peringatan ini, mulai ulang pekerjaan Azure Stream Analytics dengan waktu mulai yang sesuai tepat setelah failover Azure Event Hubs selesai. Selain itu, karena fitur Geo-replikasi Azure Event Hubs sedang dalam pratinjau publik, saat ini jangan gunakan pola ini untuk pekerjaan Stream Analytics dalam lingkungan produksi. Perilaku Azure Stream Analytics saat ini akan meningkat sebelum fitur Replikasi Geografis Azure Event Hubs tersedia secara umum dan dapat digunakan dalam pekerjaan produksi Azure Stream Analytics.

Langkah berikutnya

Pelajari selengkapnya tentang Azure Stream Analytics dan cara memantau pekerjaan yang telah Anda buat.

  • Last updated on