Realtime analyse van gegevens met Azure Service Bus en Azure Data Explorer

Azure Service Bus
Azure Data Explorer
Azure App Service
Azure SQL Database
Azure Cosmos DB

Oplossingsideeën

Dit artikel is een oplossingsidee. Als u wilt dat we de inhoud uitbreiden met meer informatie, zoals mogelijke use cases, alternatieve services, implementatieoverwegingen of prijsrichtlijnen, laat het ons dan weten door GitHub-feedback te geven.

In dit artikel wordt beschreven hoe u Azure Data Explorer en Azure Service Bus gebruikt om een bestaande architectuur voor berichtenbroker te verbeteren met bijna realtime analyses. Het is bedoeld voor IT-beheerders, cloudarchitecten en operationele teams en bewakingsteams.

Architectuur

Diagram that shows an architecture for implementing near real-time analytics.

Een Visio-bestand van deze architectuur downloaden.

Het Grafana-logo is een handelsmerk van Raintank, Inc., dba Grafana Labs. Er wordt geen goedkeuring geïmpliceerd door het gebruik van dit merk.

In het diagram ziet u twee gegevenspaden. Het hoofdpad, dat wordt vertegenwoordigd door ononderbroken lijnen en vakken 1 tot en met 5, is de opname van gegevens uit verschillende bronnen in een servicebus, waar deze wordt verwerkt door een stream analytics-taak en wordt opgeslagen in een SQL-database. Het tweede pad, dat wordt vertegenwoordigd door stippellijnen en vakken, toont de gegevens die van de servicebus naar een Azure Data Explorer-cluster stromen, waar ze kunnen worden opgevraagd en geanalyseerd via Kusto-querytaal (KQL).

Service Bus wordt gebruikt voor het implementeren van een load leveling-patroon op basis van wachtrijen voor een transactionele toepassing.

Azure Data Explorer wordt gebruikt om analyses in bijna realtime uit te voeren en gegevens beschikbaar te maken via API's of directe query's naar bijvoorbeeld Power BI, Azure Managed Grafana of Azure Data Explorer-dashboards.

Gegevensstroom

De gegevensbron in de architectuur is een bestaande OLTP-toepassing (Online Transaction Processing). Service Bus wordt gebruikt om de toepassing asynchroon uit te schalen.

  1. De OLTP-toepassing (de gegevensbron), gehost in Azure-app Service, verzendt gegevens naar Service Bus.

  2. Gegevensstromen van Service Bus in twee richtingen:

    1. In de bestaande OLTP-toepassingsstroom wordt een functie-app geactiveerd voor het opslaan van gegevens in Azure SQL Database, Azure Cosmos DB of een vergelijkbare operationele database.

    2. In de bijna realtime analysestroom wordt een indelingsstroom geactiveerd.

  3. De indelingsstroom verzendt gegevens naar Azure Data Explorer voor bijna realtime analyses. De stroom kan een van de volgende opties gebruiken:

    • Een functie-app die GEBRUIKMAAKT van SDK's voor het verzenden van gegevens in microbatches of die gebruikmaakt van ondersteuning voor beheerde streamingopname die wordt geleverd door Azure Data Explorer wanneer deze is geconfigureerd voor streamingopname.
    • Een polling-service, zoals een toepassing die wordt gehost op Azure Kubernetes Service (AKS) of een Azure-VM, die gegevens in microbatches naar Azure Data Explorer verzendt. Voor deze optie is het configureren van streamingopname van Azure Data Explorer niet vereist.
  4. Azure Data Explorer verwerkt de gegevens met behulp van schematoewijzing en updatebeleid en maakt deze beschikbaar via een API, SDK of connector voor interactieve analyses of rapportage. Azure Data Explorer kan desgewenst ook gegevens uit andere gegevensbronnen opnemen of ernaar verwijzen, zoals SQL Database of Azure Data Lake Storage.

  5. Toepassingen, aangepaste services of rapportageservices, zoals Azure Data Explorer-dashboards, Power BI en Azure Managed Grafana, kunnen in bijna realtime query's uitvoeren op de gegevens in Azure Data Explorer.

Onderdelen

  • Met App Service kunt u web-apps, mobiele back-ends en RESTful-API's bouwen en hosten in de programmeertaal van uw keuze zonder infrastructuur te beheren.
  • Service Bus biedt betrouwbare cloudberichten als een service.
  • SQL Database is een volledig beheerde SQL-database die is gebouwd voor de cloud. Het biedt automatische updates, inrichting, schaalaanpassing en back-ups.
  • Azure Cosmos DB is een wereldwijd gedistribueerde, multimodeldatabase voor toepassingen van elke schaal.
  • Azure Functions is een serverloos rekenplatform op basis van gebeurtenissen. Met Functions kunt u op schaal implementeren en werken in de cloud en triggers en bindingen gebruiken om services te integreren.
  • AKS is een maximaal beschikbare, zeer veilige en volledig beheerde Kubernetes-service voor toepassings- en microservicesworkloads.
  • Azure Data Explorer is een snelle, volledig beheerde en zeer schaalbare gegevensanalyseservice voor realtime analyse van grote hoeveelheden gegevens die afkomstig zijn van toepassingen, websites, IoT-apparaten en meer.
  • Data Lake Storage, gebouwd op Azure Blob Storage, biedt zeer schaalbare data lake-functionaliteit.
  • Power BI kan u helpen uw gegevens om te zetten in coherente, visueel meeslepende, interactieve inzichten.
  • Azure Managed Grafana is een volledig beheerde service waarmee u Grafana kunt implementeren zonder tijd te besteden aan de configuratie.

Scenariodetails

Realtime analyse is het proces van het analyseren van gegevens zodra deze worden gegenereerd om inzicht te krijgen in de huidige status van het systeem. Organisaties nemen steeds vaker gebruik van realtime analyses om een concurrentievoordeel te krijgen. Bijna realtime analyse is een variant van realtime analyses die inzichten biedt binnen enkele seconden of minuten na het genereren van gegevens.

Met deze processen kunnen organisaties sneller inzichten verkrijgen, betere beslissingen nemen en effectiever reageren op veranderende omstandigheden. Bijna realtime analyses kunnen worden toegepast op verschillende domeinen, zoals e-commerce, gezondheidszorg, productie en financiën. Een e-commercebedrijf kan bijvoorbeeld bijna realtime analyses gebruiken om het gedrag van klanten te bewaken, prijzen te optimaliseren en aanbevelingen aan te passen.

Veel organisaties implementeren bijna realtime analyses in bestaande oplossingen. Dit oplossingsidee laat zien hoe u bijna realtime analyses toevoegt aan een bestaande architectuur die is gebaseerd op een berichtenbroker en dat deel uitmaakt van een operationele OLTP-toepassing.

OLTP staat voor Online Transaction Processing. Het is een type gegevensverwerking dat transactiegerichte toepassingen beheert, meestal voor gegevensinvoer en het ophalen van transacties in een realtime-omgeving. OLTP-systemen zijn ontworpen voor het verwerken van kleine, snelle transacties die vaak financieel van aard zijn, zoals banktransacties of creditcardaankopen.

Potentiële gebruikscases

Hier volgen enkele gebruiksvoorbeelden die de voordelen van bijna realtime analyses illustreren:

  • Zorgaanbieders kunnen de resultaten van patiënten bijhouden, afwijkingen detecteren en de kwaliteit van de zorg verbeteren.
  • Productiebedrijven kunnen productie optimaliseren, afval verminderen en downtime voorkomen.
  • Financiële instellingen kunnen transacties controleren, fraude detecteren, risico's beheren en naleving van regelgeving garanderen.
  • Commercebedrijven kunnen campagnes bewaken en inzichten verkrijgen om promotie te ondersteunen.
  • Bedrijven kunnen toeleveringsketens bewaken, optimaliseren, analyseren en voorspellen.

Inzenders

Dit artikel wordt onderhouden door Microsoft. De tekst is oorspronkelijk geschreven door de volgende Inzenders.

Hoofdauteur:

Andere inzender:

Als u niet-openbare LinkedIn-profielen wilt zien, meldt u zich aan bij LinkedIn.

Volgende stappen