Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Wiele łączników danych, narzędzi i integracji bezproblemowo współpracuje z platformą do pozyskiwania, orkiestracji, danych wyjściowych i zapytań dotyczących danych. Ten artykuł zawiera ogólne omówienie dostępnych łączników, narzędzi i integracji. Dla każdego łącznika można znaleźć szczegółowe informacje i linki do pełnej dokumentacji.
Aby uzyskać przegląd stron w określonym typie integracji, wybierz jeden z następujących przycisków.
Tabele porównania
W poniższych tabelach podsumowano możliwości każdego elementu. Wybierz kartę odpowiadającą łącznikom lub narzędziom i integracji. Każda nazwa elementu łączy się ze szczegółowym opisem.
Poniższa tabela zawiera podsumowanie dostępnych łączników i ich możliwości:
| Nazwisko | Importowanie | Eksport | Orkiestruj | Zapytanie |
|---|---|---|---|---|
| Apache Kafka | ✔️ | |||
| Apache Flink | ✔️ | |||
| Apache Log4J 2 | ✔️ | |||
| Apache Spark | ✔️ | ✔️ | ✔️ | |
| Azure Cosmos DB | ✔️ | |||
| Azure Data Factory | ✔️ | ✔️ | ||
| Azure Event Grid | ✔️ | |||
| Azure Event Hubs | ✔️ | |||
| Azure Functions | ✔️ | ✔️ | ||
| Azure IoT Hubs | ✔️ | |||
| Azure Monitor | ✔️ | |||
| Azure Stream Analytics | ✔️ | |||
| Cribl Stream | ✔️ | |||
| Fluent Bit | ✔️ | |||
| JDBC | ✔️ | |||
| Logic Apps | ✔️ | ✔️ | ✔️ | |
| Usługa Logstash | ✔️ | |||
| Matlab | ✔️ | |||
| NLog | ✔️ | |||
| ODBC | ✔️ | |||
| Otwieranie telemetrii | ✔️ | |||
| Power Apps | ✔️ | ✔️ | ||
| Power Automate - narzędzie do automatyzacji procesów | ✔️ | ✔️ | ✔️ | |
| Serilog | ✔️ | |||
| Splunk | ✔️ | |||
| Splunk Universal Forwarder | ✔️ | |||
| Telegraf | ✔️ |
Szczegółowe opisy
Poniższe sekcje zawierają szczegółowe opisy łączników, narzędzi i integracji. Wybierz kartę odpowiadającą łącznikom lub narzędziom i integracji.
Apache Kafka
Apache Kafka to rozproszona platforma przesyłania strumieniowego do tworzenia potoków danych przesyłanych strumieniowo w czasie rzeczywistym, które niezawodnie przenoszą dane między systemami lub aplikacjami. Kafka Connect to narzędzie do skalowalnego i niezawodnego przesyłania strumieniowego danych między platformą Apache Kafka i innymi systemami danych. Kafka Sink działa jako konektor z platformy Kafka i nie wymaga pisania kodu. Ten łącznik jest złotym certyfikatem firmy Confluent, co oznacza, że przechodzi kompleksowy przegląd i testowanie pod kątem jakości, kompletności funkcji, zgodności ze standardami i wydajnością.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: dzienniki, telemetria, szeregi czasowe
- Podstawowy zestaw SDK:Java
- Repozytorium: Microsoft Azure — https://github.com/Azure/kafka-sink-azure-kusto/
- Dokumentacja:pozyskiwanie danych z platformy Apache Kafka
- Blog społeczności:Pozyskiwanie danych z platformy Kafka do usługi Azure Data Explorer
Apache Flink
Apache Flink to platforma i aparat przetwarzania rozproszonego na potrzeby obliczeń stanowych za pośrednictwem niezwiązanych i ograniczonych strumieni danych. Łącznik udostępnia ujście danych do przesyłania danych między klastrami Azure Data Explorer i Flink. Korzystając z usług Azure Data Explorer i Apache Flink, można tworzyć szybkie i skalowalne aplikacje przeznaczone dla scenariuszy opartych na danych. Na przykład uczenie maszynowe (ML), wyodrębnianie i przekształcanie obciążenia (ETL) i usługa Log Analytics.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ pozyskiwania: Przesyłanie strumieniowe
- Przypadki użycia: Telemetria
- Podstawowy zestaw SDK:Java
- Repozytorium: Microsoft Azure — https://github.com/Azure/flink-connector-kusto/
- Dokumentacja:pozyskiwanie danych z narzędzia Apache Flink
Apache Log4J 2
Log4J to popularna platforma rejestrowania dla aplikacji Java obsługiwanych przez platformę Apache Foundation. Deweloperzy Log4j mogą kontrolować, które instrukcje dziennika są wypisywane z dowolnym poziomem szczegółowości na podstawie nazwy rejestratora, poziomu rejestratora i wzorca wiadomości. Korzystając z ujścia apache Log4J 2, można przesyłać strumieniowo dane dziennika do bazy danych, gdzie można analizować i wizualizować dzienniki w czasie rzeczywistym.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: dzienniki
- Podstawowy zestaw SDK:Java
- Repozytorium: Microsoft Azure — https://github.com/Azure/azure-kusto-log4j
- Dokumentacja:pozyskiwanie danych za pomocą łącznika Apache Log4J 2
- Blog społeczności:wprowadzenie do platform Apache Log4J i Azure Data Explorer
Apache Spark
Apache Spark to ujednolicony aparat analityczny do przetwarzania danych na dużą skalę. Łącznik Spark to projekt typu open source, który można uruchomić w dowolnym klastrze Spark. Implementuje źródło danych i ujście danych do przenoszenia danych do lub z klastrów Spark. Korzystając z łącznika platformy Apache Spark, można tworzyć szybkie i skalowalne aplikacje przeznaczone dla scenariuszy opartych na danych. Na przykład uczenie maszynowe (ML), wyodrębnianie i przekształcanie obciążenia (ETL) i usługa Log Analytics. Korzystając z łącznika, baza danych staje się ważnym magazynem danych dla standardowych operacji źródła i ujścia w Spark, takich jak odczyt, zapis i writeStream.
- Funkcjonalność: pozyskiwanie, eksportowanie
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: Telemetria
- Podstawowy zestaw SDK:Java
- Repozytorium: Microsoft Azure — https://github.com/Azure/azure-kusto-spark/
- Dokumentacja:Łącznik platformy Apache Spark
- Blog społeczności:Przetwarzanie wstępne danych dla usługi Azure Data Explorer przy użyciu platformy Apache Spark
Platforma Apache Spark dla usługi Azure Synapse Analytics
Apache Spark to platforma przetwarzania równoległego, która obsługuje przetwarzanie w pamięci w celu zwiększenia wydajności aplikacji analitycznych big data. Platforma Apache Spark w usłudze Azure Synapse Analytics jest jedną z implementacji platformy Apache Spark firmy Microsoft w chmurze. Dostęp do bazy danych można uzyskać z poziomu programu Synapse Studio przy użyciu platformy Apache Spark dla usługi Azure Synapse Analytics.
- Funkcjonalność: pozyskiwanie, eksportowanie
- Obsługiwany typ pozyskiwania danych: Przetwarzanie wsadowe
- Przypadki użycia: Telemetria
- Podstawowy zestaw SDK:Java
- Dokumentacja:nawiązywanie połączenia z obszarem roboczym usługi Azure Synapse
Azure Cosmos DB
Usługa Azure Cosmos DB to potok pozyskiwania, który nasłuchuje zestawienia zmian usługi Cosmos DB i pozyskuje dane do bazy danych.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: zestawienie zmian
- Dokumentacja:pozyskiwanie danych z usługi Azure Cosmos DB (wersja zapoznawcza)
Azure Data Factory
Azure Data Factory (ADF) to oparta na chmurze usługa integracji danych, której można użyć do integracji różnych magazynów danych i wykonywania działań na danych.
- Funkcjonalność: pozyskiwanie, eksportowanie
- Obsługiwany typ pozyskiwania danych: Przetwarzanie wsadowe
- Przypadki użycia: aranżacja danych
- Dokumentacja:kopiowanie danych do bazy danych przy użyciu usługi Azure Data Factory
Azure Event Grid
Przetwarzanie danych w usłudze Event Grid to potok, który nasłuchuje usługi Azure Storage i aktualizuje bazę danych, aby pobierać informacje po wystąpieniu subskrybowanych zdarzeń. Ciągłe przetwarzanie można skonfigurować z użyciem Azure Storage (magazynu Azure Blob i ADLSv2), subskrypcji usługi Azure Event Grid dla powiadomień o utworzeniu lub zmianie nazwy obiektów blob oraz streamingu powiadomień za pośrednictwem usługi Azure Event Hubs.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: przetwarzanie zdarzeń
- Dokumentacja:połączenie danych usługi Event Grid
Azure Event Hubs
Azure Event Hubs to platforma do strumieniowego przetwarzania dużych zbiorów danych oraz usługa pozyskiwania danych zdarzeń. Możesz skonfigurować ciągłe pozyskiwanie danych z centrów zdarzeń Event Hubs zarządzanych przez klienta.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Dokumentacja:Połączenie danych usługi Azure Event Hubs
Azure Functions
Usługa Azure Functions umożliwia uruchamianie bezserwerowego kodu w chmurze zgodnie z harmonogramem lub w odpowiedzi na zdarzenie. Za pomocą powiązań wejściowych i wyjściowych dla usługi Azure Functions możesz zintegrować bazę danych z przepływami pracy w celu pozyskiwania danych i uruchamiania zapytań względem bazy danych.
- Funkcjonalność: pozyskiwanie, eksportowanie
- Obsługiwany typ pozyskiwania danych: Przetwarzanie wsadowe
- Przypadki użycia: integracje przepływów pracy
- Dokumentacja:integrowanie usługi Azure Functions przy użyciu powiązań wejściowych i wyjściowych (wersja zapoznawcza)
- Blog społecznościowy:Powiązania usługi Azure Data Explorer (Kusto) dla Azure Functions
Azure IoT Hubs
Azure IoT Hub to zarządzana usługa hostowana w chmurze, która działa jako centralne centrum komunikatów na potrzeby dwukierunkowej komunikacji między aplikacją IoT a zarządzanymi urządzeniami. Możesz skonfigurować ciągłe pozyskiwanie danych z usług IoT Hub zarządzanych przez klienta, używając ich wbudowanego punktu końcowego komunikatów z urządzeń do chmury zgodnego z usługą Event Hubs.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: dane IoT
- Dokumentacja:Połączenie danych usługi IoT Hub
Azure Monitor
Agent usługi Azure Monitor może wysyłać następujące dane maszyny wirtualnej do usługi Azure Data Explorer przy użyciu reguły zbierania danych:
- Liczniki wydajności
- Dzienniki IIS
- Dzienniki zdarzeń systemu Windows
- Dzienniki systemu Linux
- Niestandardowe dzienniki tekstowe
- Niestandardowe dzienniki JSON
Aby uzyskać więcej informacji, zobacz Zbieranie danych z maszyn wirtualnych do usługi Azure Data Explorer.
Azure Stream Analytics
Usługa Azure Stream Analytics to analiza w czasie rzeczywistym i złożony aparat przetwarzania zdarzeń zaprojektowany do przetwarzania dużych ilości szybkich danych przesyłanych strumieniowo z wielu źródeł jednocześnie.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: przetwarzanie zdarzeń
- Dokumentacja:pozyskiwanie danych z usługi Azure Stream Analytics
Strumień cribl
Cribl stream to aparat przetwarzania, który bezpiecznie zbiera, przetwarza i przesyła strumieniowo dane zdarzeń maszyny z dowolnego źródła. Umożliwia analizowanie i przetwarzanie tych danych dla dowolnego miejsca docelowego na potrzeby analizy.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: przetwarzanie danych maszyny, w tym dzienniki, metryki, dane instrumentacji
- Dokumentacja:pozyskiwanie danych z usługi Cribl Stream do usługi Azure Data Explorer
Fluent Bit
Fluent Bit to agent open source, który zbiera dzienniki, metryki i ślady z różnych źródeł. Umożliwia filtrowanie, modyfikowanie i agregowanie danych zdarzeń przed wysłaniem ich do magazynu.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ pozyskiwania danych: Przetwarzanie wsadowe
- Przypadki użycia: dzienniki, metryki, ślady
- Repozytorium:wtyczka wyjściowa Kusto dla fluent-bit
- Dokumentacja:pozyskiwanie danych za pomocą rozwiązania Fluent Bit w usłudze Azure Data Explorer
- Blog społeczności:wprowadzenie do usługi Fluent bit i Usługi Azure Data Explorer
JDBC
Java Database Connectivity (JDBC) to interfejs API języka Java służący do nawiązywania połączeń z bazami danych i wykonywania zapytań. Rozwiązania JDBC można użyć w celu nawiązania połączenia z usługą Azure Data Explorer.
- Funkcjonalność: zapytanie, wizualizacja
- Podstawowy zestaw SDK:Java
- Dokumentacja:nawiązywanie połączenia z usługą Azure Data Explorer za pomocą narzędzia JDBC
Aplikacje logiki
Za pomocą łącznika usługi Microsoft Logic Apps można automatycznie uruchamiać zapytania i polecenia w ramach zaplanowanego lub wyzwalanego zadania.
- Funkcjonalność: pozyskiwanie, eksportowanie
- Obsługiwany typ pozyskiwania danych: Przetwarzanie wsadowe
- Przypadki użycia: aranżacja danych
- Dokumentacja:Microsoft Logic Apps i Azure Data Explorer
Logstash
Wtyczka Logstash umożliwia przetwarzanie zdarzeń z usługi Logstash do bazy danych usługi Azure Data Explorer na potrzeby późniejszej analizy.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ pozyskiwania danych: Przetwarzanie wsadowe
- Przypadki użycia: dzienniki
- Podstawowy zestaw SDK:Java
- Repozytorium: Microsoft Azure — https://github.com/Azure/logstash-output-kusto/
- Dokumentacja:pozyskiwanie danych z usługi Logstash
- Blog społeczności:Jak przeprowadzić migrację z usługi Elasticsearch do usługi Azure Data Explorer
Matlab
MATLAB to platforma programistyczna i numeryczna służąca do analizowania danych, opracowywania algorytmów i tworzenia modeli. Token autoryzacji można uzyskać w narzędziu MATLAB na potrzeby wykonywania zapytań dotyczących danych w usłudze Azure Data Explorer.
- Funkcjonalność: zapytanie
- Dokumentacja:wykonywanie zapytań dotyczących danych przy użyciu narzędzia MATLAB
NLog
NLog to elastyczna i bezpłatna platforma rejestrowania dla różnych platform .NET, w tym .NET Standard. NLog umożliwia zapisywanie do kilku celów, takich jak baza danych, plik lub konsola. Za pomocą NLog można zmienić konfigurację rejestrowania na bieżąco. Ujście NLog to element docelowy NLog, który umożliwia wysyłanie komunikatów dziennika do bazy danych. Wtyczka zapewnia efektywny sposób przesyłania logów do klastra.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: telemetria, dzienniki, metryki
- Podstawowy zestaw SDK:.NET
- Repozytorium: Microsoft Azure — https://github.com/Azure/azure-kusto-nlog-sink
- Dokumentacja:pozyskiwanie danych za pomocą ujścia NLog
- Blog społecznościowy:Pierwsze kroki z sinkiem NLog i usługą Azure Data Explorer
ODBC
Open Database Connectivity (ODBC) to powszechnie akceptowany interfejs programowania aplikacji (API) na potrzeby dostępu do bazy danych. Usługa Azure Data Explorer jest zgodna z podzbiorem protokołu komunikacyjnego programu SQL Server (MS-TDS). Ta zgodność umożliwia korzystanie ze sterownika ODBC dla programu SQL Server z usługą Azure Data Explorer.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ ładowania danych: wsadowe, strumieniowe
- Przypadki użycia: telemetria, dzienniki, metryki
- Dokumentacja:nawiązywanie połączenia z usługą Azure Data Explorer za pomocą odBC
Otwieranie telemetrii
Łącznik OpenTelemetry obsługuje pozyskiwanie danych z wielu odbiorników do bazy danych. Pełni funkcję pomostu do przesyłania danych generowanych przez OpenTelemetry do bazy danych poprzez dostosowanie formatu eksportowanych danych do Twoich potrzeb.
- Funkcjonalność: pozyskiwanie
- Obsługiwane typy importu: przetwarzanie wsadowe, strumieniowanie
- Przypadki użycia: ślady, metryki, dzienniki
- Podstawowy zestaw SDK:Go
- Repozytorium: Otwieranie telemetrii — https://github.com/open-telemetry/opentelemetry-collector-contrib/tree/main/exporter/azuredataexplorerexporter
- Dokumentacja:pozyskiwanie danych z usługi OpenTelemetry
- Blog społeczności:Wprowadzenie do OpenTelemetry i Azure Data Explorer
Power Apps
Power Apps to pakiet aplikacji, usług, łączników i platformy danych, który zapewnia szybkie środowisko programistyczne aplikacji do tworzenia niestandardowych aplikacji łączących się z danymi biznesowymi. Łącznik usługi Power Apps jest przydatny, jeśli masz dużą i rosnącą kolekcję danych przesyłanych strumieniowo w usłudze Azure Data Explorer i chcesz utworzyć małą, wysoce funkcjonalną aplikację do korzystania z tych danych.
- Funkcjonalność: zapytanie, pozyskiwanie, eksportowanie
- Obsługiwany typ pozyskiwania danych: Wsadowy
- Dokumentacja:wykonywanie zapytań o dane w usłudze Azure Data Explorer przy użyciu usługi Power Apps
Power Automate
Power Automate to usługa orkiestracji używana do automatyzowania procesów biznesowych. Łącznik Power Automate (wcześniej Microsoft Flow) umożliwia organizowanie i planowanie przepływów, wysyłanie powiadomień i alertów w ramach zaplanowanego lub wyzwalanego zadania.
- Funkcjonalność: pozyskiwanie, eksportowanie
- Obsługiwany typ importu danych: Przetwarzanie wsadowe
- Przypadki użycia: aranżacja danych
- Dokumentacja:Łącznik usługi Microsoft Power Automate
Serilog
Serilog to popularna platforma rejestrowania dla aplikacji .NET. Korzystając z Serilog, deweloperzy mogą kontrolować, które instrukcje dziennika są wyprowadzane z dowolną szczegółowością, na podstawie nazwy rejestratora, poziomu logowania i wzorca komunikatów. Sink Serilog, znany również jako appender, przesyła dane logów do bazy danych, umożliwiając analizowanie i wizualizowanie logów w czasie rzeczywistym.
- Funkcjonalność: importowanie
- Obsługiwane typy pozyskiwania danych: przetwarzanie wsadowe, strumieniowanie
- Przypadki użycia: dzienniki
- Podstawowy zestaw SDK:.NET
- Repozytorium: Microsoft Azure — https://github.com/Azure/serilog-sinks-azuredataexplorer
- Dokumentacja:Pozyskiwanie danych za pomocą ujścia Serilog
- Blog społeczności:Pierwsze kroki z sinkiem Serilog i usługą Azure Data Explorer
Splunk
Splunk Enterprise to platforma oprogramowania, która umożliwia pozyskiwanie danych z wielu źródeł jednocześnie. Dodatek Azure Data Explorer wysyła dane ze Splunk do tabeli w klastrze.
- Funkcjonalność: Pobieranie danych
- Obsługiwany typ pozyskiwania danych: Przetwarzanie wsadowe
- Przypadki użycia: dzienniki
- Podstawowy zestaw SDK:Python
- Repozytorium: Microsoft Azure — https://github.com/Azure/azure-kusto-splunk/tree/main/splunk-adx-alert-addon
- Dokumentacja:Importowanie danych ze Splunk
- Splunk Base:dodatek Microsoft Azure Data Explorer dla Splunk
- Blog społeczności:Wprowadzenie do dodatku Microsoft Azure Data Explorer dla Splunk
Splunk Universal Forwarder
- Funkcjonalność: importowanie
- Obsługiwany typ pozyskiwania danych: Wsadowy
- Przypadki użycia: dzienniki
- Repozytorium: Microsoft Azure — https://github.com/Azure/azure-kusto-splunk
- Dokumentacja:Pozyskiwanie danych z programu Splunk Universal Forwarder do usługi Azure Data Explorer
- Blog społecznościowy:Pozyskiwanie danych przy użyciu Splunk Universal Forwarder do Azure Data Explorer
Telegraf
Telegraf to lekki agent typu open source z minimalnym zużyciem pamięci na potrzeby zbierania, przetwarzania i zapisywania danych telemetrycznych, w tym dzienników, metryk i danych IoT. Program Telegraf obsługuje setki wtyczek wejściowych i wyjściowych. Jest ona powszechnie używana i dobrze obsługiwana przez społeczność open source. Wtyczka wyjściowa służy jako łącznik z programu Telegraf i obsługuje pozyskiwanie danych z wielu typów wtyczek wejściowych do bazy danych.
- Funkcjonalność: importowanie danych
- Obsługiwane typy pozyskiwania danych: przetwarzanie wsadowe, strumieniowanie
- Przypadki użycia: telemetria, dzienniki, metryki
- Podstawowy zestaw SDK:Go
- Repozytorium: InfluxData — https://github.com/influxdata/telegraf/tree/master/plugins/outputs/azure_data_explorer
- Dokumentacja:pozyskiwanie danych z programu Telegraf
- Blog społeczności: Nowa wtyczka danych wyjściowych usługi Azure Data Explorer dla programu Telegraf umożliwia monitorowanie SQL na ogromną skalę