Gambaran umum integrasi

Banyak konektor data, alat, dan integrasi bekerja dengan mulus dengan platform untuk pengumpulan data, orkestrasi, output, dan kueri data. Artikel ini memberikan gambaran umum tingkat tinggi tentang konektor, alat, dan integrasi yang tersedia. Untuk setiap konektor, Anda dapat menemukan informasi terperinci dan tautan ke dokumentasi lengkapnya.

Untuk halaman gambaran umum tentang jenis integrasi tertentu, pilih salah satu tombol berikut.

Tabel perbandingan

Tabel berikut ini meringkas kemampuan setiap item. Pilih tab yang sesuai dengan konektor atau alat dan integrasi. Setiap nama item ditautkan ke deskripsi terperincinya.

Tabel berikut ini meringkas konektor yang tersedia dan kemampuannya:

Nama Menyerap Ekspor Mengkoordinasikan Kueri
Apache Kafka ✔️
Apache Flink ✔️
Apache Log4J 2 ✔️
Apache Spark ✔️ ✔️ ✔️
Azure Cosmos DB ✔️
Azure Data Factory ✔️ ✔️
Azure Event Grid ✔️
Azure Event Hubs ✔️
Azure Functions ✔️ ✔️
Azure IoT Hubs ✔️
Azure Monitor ✔️
Azure Stream Analytics ✔️
Cribl Stream ✔️
Fluent Bit ✔️
JDBC ✔️
Aplikasi Logika ✔️ ✔️ ✔️
Logstash ✔️
Matlab ✔️
NLog ✔️
ODBC ✔️
OpenTelemetry ✔️
Power Apps ✔️ ✔️
Power Automate ✔️ ✔️ ✔️
Serilog ✔️
Splunk ✔️
Splunk Universal Forwarder ✔️
Telegraf ✔️

Deskripsi terperinci

Bagian berikut memberikan deskripsi terperinci tentang konektor, alat, dan integrasi. Pilih tab yang sesuai dengan konektor atau alat dan integrasi.

Apache Kafka

Apache Kafka adalah platform streaming terdistribusi untuk membangun alur data streaming real-time yang dengan andal memindahkan data antara sistem atau aplikasi. Kafka Connect adalah alat untuk streaming data yang dapat diskalakan dan dapat diandalkan antara Apache Kafka dan sistem data lainnya. Kafka Sink berfungsi sebagai konektor dari Kafka dan tidak memerlukan penggunaan kode. Konektor ini disertifikasi emas oleh Confluent, yang berarti melalui tinjauan dan pengujian komprehensif untuk kualitas, kelengkapan fitur, kepatuhan terhadap standar, dan performa.

Apache Flink adalah kerangka kerja dan mesin pemrosesan terdistribusi untuk komputasi stateful melalui aliran data yang tidak terbatas dan terikat. Konektor ini menyediakan sink data untuk memindahkan data antara kluster Azure Data Explorer dan Flink. Dengan menggunakan Azure Data Explorer dan Apache Flink, Anda dapat membangun aplikasi yang cepat dan dapat diskalakan yang menargetkan skenario berbasis data. Misalnya, pembelajaran mesin (ML), Extract-Transform-Load (ETL), dan Log Analytics.

Apache Log4J 2

Log4J adalah kerangka kerja pengelogan populer untuk aplikasi Java yang dikelola oleh Apache Foundation. Pengembang Log4j dapat mengontrol pernyataan log mana yang dihasilkan dengan granularitas arbitrer berdasarkan nama pencatat, level pencatatan, dan pola pesan log. Dengan menggunakan sink Apache Log4J 2, Anda dapat mengalirkan data log ke database Anda, di mana Anda dapat menganalisis dan memvisualisasikan log Anda secara real time.

Apache Spark

Apache Spark adalah mesin analitik terpadu untuk pemrosesan data skala besar. Konektor Spark adalah proyek sumber terbuka yang dapat berjalan pada kluster Spark apa pun. Ini mengimplementasikan sumber data dan sink data untuk memindahkan data ke atau dari kluster Spark. Dengan menggunakan konektor Apache Spark, Anda dapat membangun aplikasi yang cepat dan dapat diskalakan yang menargetkan skenario berbasis data. Misalnya, pembelajaran mesin (ML), Extract-Transform-Load (ETL), dan Log Analytics. Dengan menggunakan konektor, database Anda menjadi penyimpanan data yang valid untuk operasi sumber dan sink Spark standar, seperti baca, tulis, dan tulisStream.

Apache Spark untuk Azure Synapse Analytics

Apache Spark adalah kerangka kerja pemrosesan paralel yang mendukung pemrosesan dalam memori untuk meningkatkan performa aplikasi analitik big data. Apache Spark di Azure Synapse Analytics adalah salah satu implementasi Microsoft dari Apache Spark di cloud. Anda dapat mengakses database dari Synapse Studio dengan menggunakan Apache Spark untuk Azure Synapse Analytics.

Azure Cosmos DB

Azure Cosmos DB adalah alur penyerapan yang mendengarkan umpan perubahan Cosmos DB Anda dan menyerap data ke dalam database Anda.

Azure Data Factory

Azure Data Factory (ADF) adalah layanan integrasi data berbasis cloud yang dapat Anda gunakan untuk mengintegrasikan penyimpanan data yang berbeda dan melakukan aktivitas pada data.

Azure Event Grid

Pemrosesan Event Grid adalah saluran yang memantau penyimpanan Azure dan memperbarui database Anda untuk mengambil informasi saat peristiwa yang telah dilanggan terjadi. Anda dapat mengonfigurasi pemasukan data berkelanjutan dari Azure Storage (penyimpanan Blob dan ADLSv2) dengan menggunakan langganan Azure Event Grid untuk pemberitahuan ketika blob dibuat atau diganti namanya dan melakukan streaming pemberitahuan tersebut melalui Azure Event Hubs.

  • Fungsionalitas: Penyerapan
  • Jenis penyerapan yang didukung: Batching, Streaming
  • Kasus penggunaan: Pemrosesan peristiwa
  • Dokumentasi:Koneksi data Event Grid

Azure Event Hubs

Azure Event Hubs adalah platform streaming data besar dan layanan penyerapan peristiwa. Anda dapat mengonfigurasi penyerapan berkelanjutan dari Azure Event Hubs yang dikelola pelanggan.

Azure Functions

Azure Functions memungkinkan Anda menjalankan kode tanpa server di cloud sesuai jadwal atau menanggapi peristiwa. Dengan menggunakan pengikatan input dan output untuk Azure Functions, Anda dapat mengintegrasikan database Anda ke dalam alur kerja Anda untuk menyerap data dan menjalankan kueri terhadap database Anda.

Azure IoT Hubs

Azure IoT Hub adalah layanan terkelola, yang dihosting di cloud, yang bertindak sebagai hub pesan pusat untuk komunikasi dua arah antara aplikasi IoT Anda dan perangkat yang dikelolanya. Anda dapat mengonfigurasi ingesti berkelanjutan dari IoT Hub yang dikelola pelanggan, menggunakan titik akhir bawaan pesan perangkat-ke-cloud yang kompatibel dengan Event Hubs.

  • Fungsionalitas: Penyerapan
  • Jenis penyerapan yang didukung: Batching, Streaming
  • Kasus penggunaan: Data IoT
  • Dokumentasi:Koneksi data IoT Hub

Azure Monitor

Agen Azure Monitor dapat mengirim data komputer virtual berikut ke Azure Data Explorer dengan menggunakan aturan pengumpulan data:

  • Penghitung kinerja
  • Catatan IIS
  • Log peristiwa Windows
  • Log sistem Linux
  • Log Teks Kustom
  • Log JSON khusus

Untuk informasi selengkapnya, lihat Mengumpulkan data dari komputer virtual ke Azure Data Explorer.

Azure Stream Analytics

Azure Stream Analytics adalah analitik real time dan mesin pemrosesan peristiwa kompleks yang dirancang untuk memproses data streaming cepat dalam volume tinggi dari berbagai sumber secara bersamaan.

Cribl Stream

Cribl stream adalah mesin pemrosesan yang mengumpulkan, memproses, dan mengalirkan data peristiwa mesin secara aman dari sumber apa pun. Ini memungkinkan Anda untuk mengurai dan memproses data tersebut untuk tujuan apa pun untuk analisis.

Fluent Bit

Fluent Bit adalah agen sumber terbuka yang mengumpulkan log, metrik, dan jejak dari berbagai sumber. Ini memungkinkan Anda untuk memfilter, memodifikasi, dan mengagregasi data peristiwa sebelum mengirimkannya ke penyimpanan.

JDBC

Java Database Connectivity (JDBC) adalah Java API yang digunakan untuk menyambungkan ke database dan menjalankan kueri. Anda dapat menggunakan JDBC untuk menyambungkan ke Azure Data Explorer.

Logic Apps

Dengan menggunakan konektor Microsoft Logic Apps , Anda dapat menjalankan kueri dan perintah secara otomatis sebagai bagian dari tugas terjadwal atau terpicu.

Logstash

Plugin Logstash memungkinkan Anda memproses peristiwa dari Logstash ke database Azure Data Explorer untuk analisis nanti.

Matlab

MATLAB adalah platform komputasi pemrograman dan numerik yang digunakan untuk menganalisis data, mengembangkan algoritma, dan membuat model. Anda bisa mendapatkan token otorisasi di MATLAB untuk mengkueri data Anda di Azure Data Explorer.

NLog

NLog adalah platform pengelogan fleksibel dan gratis untuk berbagai platform .NET, termasuk standar .NET. NLog memungkinkan Anda menulis ke beberapa target, seperti database, file, atau konsol. Dengan menggunakan NLog, Anda dapat mengubah konfigurasi pengelogan dengan cepat. Sink NLog merupakan target NLog yang memungkinkan Anda mengirim pesan log Anda ke basis data Anda. Plugin ini menyediakan cara yang efisien untuk mengirim log Anda ke klaster Anda.

ODBC

Open Database Connectivity (ODBC) adalah antarmuka pemrograman aplikasi (API) yang diterima secara luas untuk akses database. Azure Data Explorer kompatibel dengan subset protokol komunikasi SQL Server (MS-TDS). Kompatibilitas ini memungkinkan penggunaan driver ODBC untuk SQL Server dengan Azure Data Explorer.

OpenTelemetry

Konektor OpenTelemetry mendukung penyerapan data dari banyak penerima ke dalam database Anda. Ini berfungsi sebagai jembatan untuk menyerap data yang dihasilkan oleh Telemetri Terbuka ke database Anda dengan menyesuaikan format data yang diekspor sesuai dengan kebutuhan Anda.

Power Apps

Power Apps adalah serangkaian aplikasi, layanan, konektor, dan platform data yang menyediakan lingkungan pengembangan aplikasi yang cepat untuk membangun aplikasi kustom yang terhubung ke data bisnis Anda. Konektor Power Apps berguna jika Anda memiliki pengumpulan data streaming yang besar dan berkembang di Azure Data Explorer dan ingin membangun aplikasi kode rendah dan sangat fungsional untuk menggunakan data ini.

Power Automate

Power Automate adalah layanan orkestrasi yang digunakan untuk mengotomatiskan proses bisnis. Konektor Power Automate (sebelumnya Microsoft Flow) memungkinkan Anda mengorkestrasi dan menjadwalkan alur, mengirim pemberitahuan dan peringatan, sebagai bagian dari tugas yang dijadwalkan atau dipicu.

Serilog

Serilog adalah kerangka kerja pengelogan populer untuk aplikasi .NET. Dengan menggunakan Serilog, pengembang dapat mengontrol pernyataan log mana yang merupakan output dengan granularitas sewenang-wenang berdasarkan nama pencatat, tingkat pencatat, dan pola pesan. Sink Serilog, juga dikenal sebagai appender, mengalirkan data log Anda ke database Anda, di mana Anda dapat menganalisis dan memvisualisasikan log Anda secara real time.

Splunk

Splunk Enterprise adalah platform perangkat lunak yang memungkinkan Anda menyerap data dari banyak sumber secara bersamaan. Add-on Azure Data Explorer mengirim data dari Splunk ke tabel di kluster Anda.

Splunk Universal Forwarder

Telegraf

Telegraf adalah perangkat lunak sumber terbuka, agen ringan dengan jejak memori minimal untuk mengumpulkan, memproses, dan menulis data telemetri, termasuk log, metrik, dan data IoT. Telegraf mendukung ratusan plugin input dan output. Ini banyak digunakan dan didukung dengan baik oleh komunitas sumber terbuka. Plugin output berfungsi sebagai konektor dari Telegraf dan mendukung penyerapan data dari banyak jenis plugin input ke dalam database Anda.