Análisis de datos JSON y AVRO en Azure Stream Analytics

El servicio de Azure Stream Analytics admite eventos de procesamiento en formatos de datos CSV, JSON y Avro. Tanto los datos JSON como los datos Avro se pueden estructurar y contener algunos tipos complejos, tales como objetos anidados (registros) y matrices.

Nota

Los archivos de AVRO creados mediante Event Hubs Capture usan un formato específico que requiere que se utilice la característica deserializador personalizado. Para más información, consulte Lectura de entradas en cualquier formato mediante deserializadores personalizados de .NET.

Tipos de datos de registro

Los tipos de datos de registro se utilizan para representar las matrices JSON y Avro cuando se usan los formatos correspondientes en los flujos de datos de entrada. Estos ejemplos muestran un sensor de ejemplo, que lee los eventos de entrada en formato JSON. Este es el ejemplo de un solo evento:

JSON

{
    "DeviceId" : "12345",
    "Location" :
    {
        "Lat": 47,
        "Long": 122
    },
    "SensorReadings" :
    {
        "Temperature" : 80,
        "Humidity" : 70,
        "CustomSensor01" : 5,
        "CustomSensor02" : 99,
        "SensorMetadata" : 
        {
        "Manufacturer":"ABC",
        "Version":"1.2.45"
        }
    }
}

Acceso a campos anidados en un esquema conocido

Use la notación de punto (.) para acceder fácilmente a los campos anidados directamente desde la consulta. Por ejemplo, esta consulta selecciona las coordenadas de latitud y longitud de la propiedad Location en los datos JSON anteriores. La notación de punto se puede usar para navegar por varios niveles, como se muestra en el siguiente fragmento de código:

SQL

SELECT
    DeviceID,
    Location.Lat,
    Location.Long,
    SensorReadings.Temperature,
    SensorReadings.SensorMetadata.Version
FROM input

El resultado es el siguiente:

DeviceID	Lat	long	Temperatura	Versión
12345	47	122	80	1.2.45

Selección de todas las propiedades

Puede seleccionar todas las propiedades de un registro anidado usando el comodín "*". Considere el ejemplo siguiente:

SQL

SELECT
    DeviceID,
    Location.*
FROM input

El resultado es el siguiente:

DeviceID	Lat	long
12345	47	122

Acceso a los campos anidados cuando el nombre de la propiedad es una variable

Use la función GetRecordPropertyValue si el nombre de la propiedad es una variable. Permite crear consultas dinámicas sin codificar los nombres de propiedad.

Por ejemplo, imagine que el flujo de datos de ejemplo tiene que combinarse con datos de referencia que contienen los umbrales de cada sensor de dispositivo. En el siguiente fragmento de código se muestra un fragmento de código de estos datos de referencia.

JSON

{
    "DeviceId" : "12345",
    "SensorName" : "Temperature",
    "Value" : 85
},
{
    "DeviceId" : "12345",
    "SensorName" : "Humidity",
    "Value" : 65
}

El objetivo aquí es combinar el conjunto de datos de ejemplo de la parte superior del artículo con el de los datos de referencia y generar un evento para cada medida de sensor que sobrepase su umbral. Esto significa que, gracias a la combinación, el evento anterior puede generar varios eventos de salida si varios sensores están por encima de sus respectivos umbrales. Para conseguir resultados similares sin una combinación, consulte el siguiente ejemplo:

SQL

SELECT
    input.DeviceID,
    thresholds.SensorName,
    "Alert: Sensor above threshold" AS AlertMessage
FROM input      -- stream input
JOIN thresholds -- reference data input
ON
    input.DeviceId = thresholds.DeviceId
WHERE
    GetRecordPropertyValue(input.SensorReadings, thresholds.SensorName) > thresholds.Value

GetRecordPropertyValue selecciona la propiedad en SensorReadings, cuyo nombre coincide con el nombre de la propiedad que procede de los datos de referencia. Luego, se extrae el valor asociado de SensorReadings.

El resultado es el siguiente:

DeviceID	SensorName	AlertMessage
12345	Humedad	Alerta: sensor por encima del umbral

Conversión de campos de registro en eventos independientes

Para convertir los campos de registro en eventos independientes, use el operador APPLY con la función GetRecordProperties.

Con los datos de ejemplo originales, se podría usar la siguiente consulta para extraer propiedades en distintos eventos.

SQL

SELECT
    event.DeviceID,
    sensorReading.PropertyName,
    sensorReading.PropertyValue
FROM input as event
CROSS APPLY GetRecordProperties(event.SensorReadings) AS sensorReading

El resultado es el siguiente:

DeviceID	SensorName	AlertMessage
12345	Temperatura	80
12345	Humedad	70
12345	CustomSensor01	5
12345	CustomSensor02	99
12345	SensorMetadata	[object Object]

Mediante WITH, es posible enrutar esos eventos a diferentes destinos:

SQL

WITH Stage0 AS
(
    SELECT
        event.DeviceID,
        sensorReading.PropertyName,
        sensorReading.PropertyValue
    FROM input as event
    CROSS APPLY GetRecordProperties(event.SensorReadings) AS sensorReading
)

SELECT DeviceID, PropertyValue AS Temperature INTO TemperatureOutput FROM Stage0 WHERE PropertyName = 'Temperature'
SELECT DeviceID, PropertyValue AS Humidity INTO HumidityOutput FROM Stage0 WHERE PropertyName = 'Humidity'

Análisis de registros JSON en datos de referencia de SQL

Cuando se usa Azure SQL Database como datos de referencia en el trabajo, se puede tener una columna con datos en formato JSON. Se muestra un ejemplo en el siguiente ejemplo:

DeviceID	data
12345	{"key": "value1"}
54321	{"key": "value2"}

Puede analizar el registro JSON en la columna Datos escribiendo una sencilla función de JavaScript definida por el usuario.

JavaScript

function parseJson(string) {
return JSON.parse(string);
}

Después, puede crear un paso en la consulta de Stream Analytics, como se muestra aquí, para tener acceso a los campos de los registros JSON.

SQL

WITH parseJson as
(
SELECT DeviceID, udf.parseJson(sqlRefInput.Data) as metadata,
FROM sqlRefInput
)

SELECT metadata.key
INTO output
FROM streamInput
JOIN parseJson 
ON streamInput.DeviceID = parseJson.DeviceID

Tipos de datos de matriz

Los tipos de datos de matriz son una colección ordenada de valores. Aquí se detallan algunas operaciones típicas en valores de matriz. Estos ejemplos utilizan las funciones GetArrayElement, GetArrayElements, GetArrayLength y el operador APPLY.

Este es un ejemplo de un evento. Tanto CustomSensor03 como SensorMetadata son de tipo matriz:

JSON

{
    "DeviceId" : "12345",
    "SensorReadings" :
    {
        "Temperature" : 80,
        "Humidity" : 70,
        "CustomSensor01" : 5,
        "CustomSensor02" : 99,
        "CustomSensor03": [12,-5,0]
     },
    "SensorMetadata":[
        {          
            "smKey":"Manufacturer",
            "smValue":"ABC"                
        },
        {
            "smKey":"Version",
            "smValue":"1.2.45"
        }
    ]
}

Trabajo con un elemento de matriz específico

Selección del elemento de matriz en un índice especificado (seleccionando el primer elemento de matriz):

SQL

SELECT
    GetArrayElement(SensorReadings.CustomSensor03, 0) AS firstElement
FROM input

El resultado es el siguiente:

firstElement
12

Selección de la longitud de matriz

SQL

SELECT
    GetArrayLength(SensorReadings.CustomSensor03) AS arrayLength
FROM input

El resultado es el siguiente:

arrayLength
3

Conversión de los elementos de matriz en eventos independientes

Selección de todos los elemento de matriz como eventos individuales. El operador APPLY junto con la función integrada GetArrayElements extrae todos los elementos de matriz como eventos individuales:

SQL

SELECT
    DeviceId,
	CustomSensor03Record.ArrayIndex,
	CustomSensor03Record.ArrayValue
FROM input
CROSS APPLY GetArrayElements(SensorReadings.CustomSensor03) AS CustomSensor03Record

El resultado es el siguiente:

deviceId	ArrayIndex	ArrayValue
12345	0	12
12345	1	-5
12345	2	0

SQL

SELECT   
    i.DeviceId,	
    SensorMetadataRecords.ArrayValue.smKey as smKey,
    SensorMetadataRecords.ArrayValue.smValue as smValue
FROM input i
CROSS APPLY GetArrayElements(SensorMetadata) AS SensorMetadataRecords

El resultado es el siguiente:

deviceId	smKey	smValue
12345	Fabricante	ABC
12345	Versión	1.2.45

Si los campos extraídos deben aparecer en columnas, es posible dinamizar el conjunto de datos mediante la sintaxis WITH además de la operación JOIN. Esa combinación requiere una condición de límite de tiempo que evita la duplicación:

SQL

WITH DynamicCTE AS (
	SELECT   
		i.DeviceId,
		SensorMetadataRecords.ArrayValue.smKey as smKey,
		SensorMetadataRecords.ArrayValue.smValue as smValue
	FROM input i
	CROSS APPLY GetArrayElements(SensorMetadata) AS SensorMetadataRecords 
)

SELECT
	i.DeviceId,
	i.Location.*,
	V.smValue AS 'smVersion',
	M.smValue AS 'smManufacturer'
FROM input i
LEFT JOIN DynamicCTE V ON V.smKey = 'Version' and V.DeviceId = i.DeviceId AND DATEDIFF(minute,i,V) BETWEEN 0 AND 0 
LEFT JOIN DynamicCTE M ON M.smKey = 'Manufacturer' and M.DeviceId = i.DeviceId AND DATEDIFF(minute,i,M) BETWEEN 0 AND 0

El resultado es el siguiente:

deviceId	Lat	long	smVersion	smManufacturer
12345	47	122	1.2.45	ABC

Contenido relacionado

Tipos de datos en Azure Stream Analytics