Analitik IoT dengan Azure Data Explorer

Azure Cosmos DB
Azure Data Explorer
Azure Digital Twins

Ide solusi

Artikel ini adalah ide solusi. Jika Anda ingin kami memperluas konten dengan informasi lebih lanjut, seperti potensi kasus penggunaan, layanan alternatif, pertimbangan implementasi, atau panduan harga, beri tahu kami dengan memberikan umpan balik GitHub.

Ide solusi ini menjelaskan bagaimana Azure Data Explorer menyediakan analitik mendekati real-time untuk mengalir cepat, data streaming volume tinggi dari perangkat dan sensor internet of things (IoT). Alur kerja analitik ini adalah bagian dari solusi IoT keseluruhan yang mengintegrasikan beban kerja operasional dan analitik dengan Azure Cosmos DB dan Azure Data Explorer.

Jupyter adalah merek dagang dari perusahaannya masing-masing. Tidak ada dukungan yang tersirat oleh penggunaan tanda ini. Apache® dan Apache Kafka® adalah merek dagang terdaftar atau merek dagang dari Apache Software Foundation di Amerika Serikat dan/atau negara lain. Tidak ada dukungan oleh The Apache Software Foundation yang tersirat oleh penggunaan tanda ini.

Sistem

Diagram memperlihatkan analitik telemetri IoT dengan Azure Data Explorer.

Unduh file Visio arsitektur ini.

Aliran data

  1. Azure Event Hubs, Azure IoT Hub, atau Kafka menyerap berbagai data streaming yang mengalir cepat seperti log, peristiwa bisnis, dan aktivitas pengguna.

  2. Azure Functions atau Azure Stream Analytics memproses data mendekati real time.

  3. Azure Cosmos DB menyimpan pesan yang dialirkan dalam format JSON untuk melayani aplikasi operasional real time.

  4. Azure Data Explorer menyerap data untuk analitik, menggunakan konektornya untuk Azure Event Hubs, Azure IoT Hub, atau Kafka untuk latensi rendah dan throughput tinggi.

    Atau, Anda dapat menyerap blob dari akun Azure Blob Storage atau Azure Data Lake Storage ke Azure Data Explorer dengan menggunakan koneksi data Event Grid.

    Anda juga dapat terus mengekspor data ke Azure Storage dalam format Apache Parquet terkompresi dan dipartisi, dan mengkueri data dengan lancar dengan Azure Data Explorer. Untuk detailnya, lihat Gambaran umum ekspor data berkelanjutan.

  5. Untuk melayani kasus penggunaan operasional dan analitik, data dapat dirutekan ke Azure Data Explorer dan Azure Cosmos DB secara paralel, atau dari Azure Cosmos DB ke Azure Data Explorer.

    • Transaksi Azure Cosmos DB dapat memicu Azure Functions melalui umpan perubahan. Functions akan mengalirkan data ke Azure Event Hubs untuk penyerapan ke Azure Data Explorer.

      or

    • Azure Functions dapat memanggil Azure Digital Twins melalui API-nya, yang kemudian mengalirkan data ke Azure Event Hubs untuk diserap ke Azure Data Explorer.

  6. Antarmuka berikut mendapatkan wawasan dari data yang disimpan di Azure Data Explorer:

  7. Azure Data Explorer terintegrasi dengan Azure Databricks dan Azure Pembelajaran Mesin untuk menyediakan layanan pembelajaran mesin (ML). Anda juga dapat membangun model ML menggunakan alat dan layanan lain, dan mengekspornya ke Azure Data Explorer untuk menilai data.

Komponen

Ide solusi ini menggunakan komponen Azure berikut:

Azure Data Explorer

Azure Data Explorer adalah layanan analitik big data yang cepat, dikelola sepenuhnya, dan sangat dapat diskalakan. Azure Data Explorer dapat menganalisis data streaming dalam volume besar dari aplikasi, situs web, dan perangkat IoT hampir real-time untuk melayani aplikasi dan dasbor analitik.

Azure Data Explorer menyediakan analitik tingkat lanjut asli untuk:

Antarmuka pengguna Web Azure Data Explorer tersambung ke kluster Azure Data Explorer untuk membantu menulis, menjalankan, dan berbagi perintah dan kueri Bahasa Kueri Kusto. Dasbor Azure Data Explorer adalah fitur di Antarmuka Pengguna Web Data Explorer yang secara asli mengekspor kueri Kusto ke dasbor yang dioptimalkan.

Komponen Azure lainnya

  • Azure Cosmos DB adalah layanan database NoSQL yang dikelola penuh dan cepat untuk pengembangan aplikasi modern dengan API terbuka untuk skala apa pun.
  • Azure Digital Twins menyimpan model digital lingkungan fisik, untuk membantu menciptakan solusi IoT generasi berikutnya yang memodelkan dunia nyata.
  • Azure Event Hubs adalah layanan penyerapan data real-time yang dikelola sepenuhnya.
  • Azure IoT Hub memungkinkan komunikasi dua arah antara perangkat IoT dan cloud Azure.
  • Azure Synapse Link untuk Azure Cosmos DB berjalan mendekati analitik real time melalui data operasional di Azure Cosmos DB, tanpa dampak performa atau biaya pada beban kerja transaksional. Synapse Link menggunakan mesin analitik SQL Serverless dan Spark Pools dari ruang kerja Azure Synapse.
  • Kafka di HDInsight adalah layanan kelas perusahaan yang mudah dan hemat biaya untuk analitik sumber terbuka dengan Apache Kafka.

Detail skenario

Solusi ini menggunakan Azure Data Explorer untuk mendapatkan analitik telemetri IoT yang hampir real-time pada data streaming volume tinggi yang mengalir cepat dari berbagai perangkat IoT.

Kemungkinan kasus penggunaan

Kontributor

Artikel ini dikelola oleh Microsoft. Ini awalnya ditulis oleh kontributor berikut.

Penulis utama:

Langkah berikutnya