Conceptos de minería de datos

Se aplica a: SQL Server 2019 y versiones anteriores de Analysis Services Azure Analysis Services Fabric/Power BI Premium

Importante

La minería de datos estaba en desuso en SQL Server 2017 Analysis Services y ahora se ha interrumpido en SQL Server 2022 Analysis Services. La documentación no se actualiza para las características en desuso e interrumpidas. Para más información, consulte Compatibilidad con versiones anteriores de Analysis Services.

La minería de datos es el proceso de detectar la información procesable de los conjuntos grandes de datos. Utiliza el análisis matemático para deducir los patrones y tendencias que existen en los datos. Normalmente, estos patrones no se pueden detectar mediante la exploración tradicional de los datos porque las relaciones son demasiado complejas o porque hay demasiado datos.

Estos patrones y tendencias se pueden recopilar y definir como un modelo de minería de datos. Los modelos de minería de datos se pueden aplicar en escenarios como los siguientes:

  • Pronóstico: cálculo de las ventas y predicción de las cargas del servidor o del tiempo de inactividad del servidor.

  • Riesgo y probabilidad: elección de los mejores clientes para la distribución de correo directo, determinación del punto de equilibrio probable para los escenarios de riesgo, y asignación de probabilidades a diagnósticos y otros resultados.

  • Recomendaciones: determinación de los productos que se pueden vender juntos y generación de recomendaciones.

  • Búsqueda de secuencias: análisis de los artículos que los clientes han introducido en el carrito de la compra y predicción de posibles eventos.

  • Agrupación: distribución de clientes o eventos en grupos de elementos relacionados, y análisis y predicción de afinidades.

La generación de un modelo de minería de datos forma parte de un proceso mayor que incluye desde la formulación de preguntas acerca de los datos y la creación de un modelo para responderlas, hasta la implementación del modelo en un entorno de trabajo. Este proceso se puede definir mediante los seis pasos básicos siguientes:

  1. Definición del problema

  2. Preparación de datos

  3. Explorar los datos

  4. Creación de modelos

  5. Exploración y validación de modelos

  6. Implementar y actualizar los modelos

En el diagrama siguiente se describen las relaciones entre cada paso del proceso y las tecnologías de Microsoft SQL Server que puede usar para completar cada paso.

Pasos clave del proceso de minería de

El proceso que se ilustra en el diagrama es cíclico, lo que significa que la creación de un modelo de minería de datos es un proceso dinámico e iterativo. Una vez que ha explorado los datos, puede que descubra que resultan insuficientes para crear los modelos de minería de datos adecuados y que, por tanto, debe buscar más datos. O bien, puede generar varios modelos y descubrir entonces que no responden adecuadamente al problema planteado cuando los definió y que, por tanto, debe volver a definir el problema. Es posible que deba actualizar los modelos una vez implementados debido a que haya más datos disponibles. Puede que haya que repetir cada paso del proceso muchas veces para crear un modelo adecuado.

La minería de datos de Microsoft SQL Server ofrece un entorno integrado para crear y trabajar con modelos de minería de datos. Este entorno incluye SQL Server Development Studio, que contiene algoritmos de minería de datos y herramientas de consulta que facilitan la creación de una solución completa para diversos proyectos y SQL Server Management Studio, que contiene herramientas para examinar modelos y administrar objetos de minería de datos. Para obtener más información, consulte Creación de modelos multidimensionales mediante SQL Server Data Tools (SSDT).

Para obtener un ejemplo de cómo se pueden aplicar las herramientas de SQL Server a un escenario empresarial, consulte el Tutorial básico de minería de datos.

Definir el problema

El primer paso del proceso de minería de datos, tal como se resalta en el siguiente diagrama, consiste en definir claramente el problema y considerar formas de usar los datos para proporcionar una respuesta para el mismo.

Primer paso de minería de datos: definir el problema Primer paso de minería de

Este paso incluye analizar los requisitos empresariales, definir el ámbito del problema, definir las métricas por las que se evaluará el modelo y definir los objetivos concretos del proyecto de minería de datos. Estas tareas se traducen en preguntas como las siguientes:

  • ¿Qué está buscando? ¿Qué tipos de relaciones intenta buscar?

  • ¿Refleja el problema que está intentando resolver las directivas o procesos de la empresa?

  • ¿Desea realizar predicciones a partir del modelo de minería de datos o solamente buscar asociaciones y patrones interesantes?

  • ¿Qué resultado o atributo desea predecir?

  • ¿Qué tipo de datos tiene y qué tipo de información hay en cada columna? En caso de que haya varias tablas, ¿cómo se relacionan? ¿Necesita limpiar, agregar o procesar los datos antes de poder usarlos?

  • ¿Cómo se distribuyen los datos? ¿Los datos son estacionales? ¿Los datos representan con precisión los procesos de la empresa?

Para responder a estas preguntas, puede que deba dirigir un estudio de disponibilidad de datos para investigar las necesidades de los usuarios de la empresa con respecto a los datos disponibles. Si los datos no abarcan las necesidades de los usuarios, podría tener que volver a definir el proyecto.

También debe considerar las maneras en las que los resultados del modelo se pueden incorporar en los indicadores de rendimiento clave (KPI) que se utilizan para medir el progreso comercial.

Preparar los datos

El segundo paso del proceso de minería de datos, como se indica en el siguiente diagrama, consiste en consolidar y limpiar los datos identificados en el paso Definir el problema .

Segundo paso de minería de datos: preparar la minería de datos

Los datos pueden estar dispersos en la empresa y almacenados en formatos distintos; también pueden contener incoherencias como entradas que faltan o incorrectas. Por ejemplo, los datos pueden mostrar que un cliente adquirió un producto incluso antes que se ofreciera en el mercado o que el cliente compra regularmente en una tienda situada a 2.000 kilómetros de su casa.

La limpieza de datos no solamente implica quitar los datos no válidos o interpolar valores que faltan, sino también buscar las correlaciones ocultas en los datos, identificar los orígenes de datos que son más precisos y determinar qué columnas son las más adecuadas para el análisis. Por ejemplo, ¿debería utilizar la fecha de envío o la fecha de pedido? ¿Qué influye más en las ventas: la cantidad, el precio total o un precio con descuento? Los datos incompletos, los datos incorrectos y las entradas que parecen independientes, pero que de hecho están estrechamente correlacionadas, pueden influir en los resultados del modelo de maneras que no espera.

Por consiguiente, antes de empezar a generar los modelos de minería de datos, debería identificar estos problemas y determinar cómo los corregirá. En el caso de la minería de datos, normalmente está trabajando con un conjunto de datos muy grande y no puede examinar todas las transacciones para la calidad de los datos; Por lo tanto, es posible que tenga que usar algún tipo de generación de perfiles de datos y herramientas automatizadas de limpieza y filtrado de datos, como las proporcionadas en Integration Services, Microsoft SQL Server 2012 Master Data Services o SQL Server Data Quality Services para explorar los datos y encontrar las incoherencias. Para obtener más información, vea estos recursos:

Es importante tener en cuenta que los datos que se usan para la minería de datos no necesitan almacenarse en un cubo de procesamiento analítico en línea (OLAP), ni siquiera en una base de datos relacional, aunque puede usar ambos como orígenes de datos. Puede realizar la minería de datos mediante cualquier origen de datos que se haya definido como un origen de datos SQL Server Analysis Services. Por ejemplo, archivos de texto, libros de Excel o datos de otros proveedores externos. Para obtener más información, vea Orígenes de datos admitidos (SSAS - multidimensionales).

Exploración de datos

El tercer paso del proceso de minería de datos, como se resalta en el siguiente diagrama, consiste en explorar los datos preparados.

Tercer paso de minería de datos: exploración de la minería de datos

Debe conocer los datos para tomar las decisiones adecuadas al crear los modelos de minería de datos. Entre las técnicas de exploración se incluyen calcular los valores mínimos y máximos, calcular la media y las desviaciones estándar, y examinar la distribución de los datos. Por ejemplo, al revisar el máximo, el mínimo y los valores de la media se podría determinar que los datos no son representativos de los clientes o procesos de negocio, y que por consiguiente debe obtener más datos equilibrados o revisar las suposiciones que son la base de sus expectativas. Las desviaciones estándar y otros valores de distribución pueden proporcionar información útil sobre la estabilidad y exactitud de los resultados. Una desviación estándar grande puede indicar que agregar más datos podría ayudarle a mejorar el modelo. Los datos que se desvían mucho de una distribución estándar se podrían sesgar o podrían representar una imagen precisa de un problema de la vida real, pero dificultar el ajustar un modelo a los datos.

Al explorar los datos para conocer el problema empresarial, puede decidir si el conjunto de datos contiene datos defectuosos y, a continuación, puede inventar una estrategia para corregir los problemas u obtener una descripción más profunda de los comportamientos que son típicos de su negocio.

Puede usar herramientas como Master Data Services para crear lienzos de orígenes de datos disponibles y determinar su disponibilidad para la minería de datos. Puede usar herramientas como SQL Server Data Quality Services o Data Profiler en Integration Services, para analizar la distribución de los datos y reparar problemas, como datos incorrectos o que faltan.

Después de definir los orígenes, los combinará en una vista origen de datos mediante el Designer vista del origen de datos en SQL Server Data Tools. Para más información, vea Vistas del origen de datos en modelos multidimensionales. Este diseñador también contiene algunas herramientas que podrá usar para explorar los datos y comprobar que funcionarán a la hora de crear un modelo. Para obtener más información, vea Explorar datos en una vista del origen de datos (Analysis Services) .

Tenga en cuenta que al crear un modelo, SQL Server Analysis Services crea automáticamente resúmenes estadísticos de los datos contenidos en el modelo, que puede consultar para usarlos en informes o análisis adicionales. Para obtener más información, vea Consultas de minería de datos.

Creación de modelos

El cuarto paso del proceso de minería de datos, como se resalta en el siguiente diagrama, consiste en generar el modelo o modelos de minería de datos. Usará los conocimientos adquiridos en el paso Explorar los datos para definir y crear los modelos.

Cuarto paso de minería de datos: compilar modelos de minería de datos

Deberá definir qué columnas de datos desea que se usen; para ello, creará una estructura de minería de datos. La estructura de minería de datos se vincula al origen de datos, pero en realidad no contiene ningún dato hasta que se procesa. Al procesar la estructura de minería de datos, SQL Server Analysis Services genera agregados y otra información estadística que se puede usar para el análisis. Cualquier modelo de minería de datos que esté basado en la estructura puede utilizar esta información. Para obtener más información sobre cómo se relacionan las estructuras de minería de datos con los modelos de minería de datos, vea Arquitectura lógica (Analysis Services - Minería de datos).

Antes de procesar la estructura y el modelo, un modelo de minería de datos simplemente es un contenedor que especifica las columnas que se usan para la entrada, el atributo que está prediciendo y parámetros que indican al algoritmo cómo procesar los datos. El procesamiento de un modelo a menudo se denomina entrenamiento. El entrenamiento hace referencia al proceso de aplicar un algoritmo matemático concreto a los datos de la estructura para extraer patrones. Los patrones que encuentre en el proceso de entrenamiento dependerán de la selección de los datos de entrenamiento, el algoritmo que elija y cómo se haya configurado el algoritmo. SQL Server 2017 contiene muchos algoritmos diferentes, cada uno adecuado para un tipo de tarea diferente y cada uno de ellos crea un tipo de modelo diferente. Para obtener una lista de los algoritmos proporcionados en SQL Server 2017, consulte Algoritmos de minería de datos (Analysis Services - Minería de datos).

También puede utilizar los parámetros para ajustar cada algoritmo y puede aplicar filtros a los datos de entrenamiento para utilizar un subconjunto de los datos, creando resultados diferentes. Después de pasar los datos a través del modelo, el objeto de modelo de minería de datos contiene los resúmenes y modelos que se pueden consultar o utilizar para la predicción.

Puede definir un nuevo modelo mediante el Asistente para minería de datos en SQL Server Data Tools o mediante el lenguaje Extensiones de minería de datos (DMX). Para obtener más información sobre cómo usar el Asistente para minería de datos, vea Asistente para minería de datos (Analysis Services - Minería de datos). Para obtener más información sobre cómo usar DMX, vea Referencia de extensiones de minería de datos (DMX).

Es importante recordar que siempre que los datos cambian, debe actualizar la estructura y el modelo de minería de datos. Al actualizar una estructura de minería de datos reprocesándola, SQL Server Analysis Services recupera datos del origen, incluidos los nuevos datos si el origen se actualiza dinámicamente y vuelve a rellenar la estructura de minería de datos. Si tiene modelos que están basados en la estructura, puede elegir actualizar estos, lo que significa que se vuelven a entrenar con los nuevos datos, o puede dejar los modelos tal cual. Para obtener más información, vea Requisitos y consideraciones de procesamiento (minería de datos).

Explorar y validar los modelos

El quinto paso del proceso de minería de datos, como se resalta en el siguiente diagrama, consiste en explorar los modelos de minería de datos que ha generado y comprobar su eficacia.

Quinto paso de minería de datos: validación de modelos de minería de datos de datos

Antes de implementar un modelo en un entorno de producción, es aconsejable probar si funciona correctamente. Además, al generar un modelo, normalmente se crean varios con configuraciones diferentes y se prueban todos para ver cuál ofrece los resultados mejores para su problema y sus datos.

SQL Server Analysis Services proporciona herramientas que le ayudan a separar los datos en conjuntos de datos de entrenamiento y pruebas para que pueda evaluar con precisión el rendimiento de todos los modelos en los mismos datos. El conjunto de datos de entrenamiento se utiliza para generar el modelo y el conjunto de datos de prueba para comprobar la precisión del modelo mediante la creación de consultas de predicción. Esta creación de particiones se puede realizar automáticamente al compilar el modelo de minería de datos. Para obtener más información, vea Pruebas y validación (minería de datos).

Puede explorar las tendencias y patrones que detectan los algoritmos mediante los visores de data Mining Designer en SQL Server Data Tools. Para obtener más información, vea Visores de modelos de minería de datos. También puede comprobar si los modelos crean predicciones correctamente mediante herramientas del diseñador como el gráfico de mejora respecto al modelo predictivo y la matriz de clasificación. Para comprobar si el modelo es específico de sus datos o se puede usar para realizar inferencias en la población general, puede usar la técnica estadística denominada validación cruzada para crear automáticamente subconjuntos de los datos y probar el modelo con cada uno. Para obtener más información, vea Pruebas y validación (minería de datos).

Si ninguno de los modelos que ha creado en el paso Generar modelos funciona correctamente, puede que deba volver a un paso anterior del proceso y volver a definir el problema o volver a investigar los datos del conjunto de datos original.

Implementar y actualizar los modelos

El último paso del proceso de minería de datos, como se resalta en el siguiente diagrama, consiste en implementar los modelos que funcionan mejor en un entorno de producción.

Sexto paso de minería de datos: implementación de modelos de minería de datos

Una vez que los modelos de minería de datos se encuentran en el entorno de producción, puede llevar acabo diferentes tareas, dependiendo de sus necesidades. Las siguientes son algunas de las tareas que puede realizar:

  • Use los modelos para crear predicciones que luego podrá usar para tomar decisiones comerciales. SQL Server proporciona el lenguaje DMX que puede usar para crear consultas de predicción y el Generador de consultas de predicción para ayudarle a crear las consultas. Para más información, vea Referencia de Extensiones de minería de datos (DMX).

  • Crear consultas de contenido para recuperar estadísticas, reglas o fórmulas del modelo. Para obtener más información, vea Consultas de minería de datos.

  • Incrustar la funcionalidad de minería de datos directamente en una aplicación. Puede incluir Objetos de administración de análisis (AMO), que contiene un conjunto de objetos que la aplicación pueda utilizar para crear, cambiar, procesar y eliminar estructuras y modelos de minería de datos. Como alternativa, puede enviar mensajes XML for Analysis (XMLA) directamente a una instancia de SQL Server Analysis Services. Para obtener más información, vea Desarrollo (Analysis Services - Minería de datos).

  • Use Integration Services para crear un paquete en el que se usa un modelo de minería de datos para separar de forma inteligente los datos entrantes en varias tablas. Por ejemplo, si una base de datos se actualiza continuamente con clientes potenciales, podría usar un modelo de minería de datos junto con Integration Services para dividir los datos entrantes en clientes que probablemente compren un producto y clientes que probablemente no compren un producto. Para más información, consulte Usos típicos de Integration Services.

  • Crear un informe que permita a los usuarios realizar consultas directamente en un modelo de minería de datos existente. Para obtener más información, vea Reporting Services en SQL Server Data Tools (SSDT).

  • Actualizar los modelos después de la revisión y análisis. Cualquier actualización requiere que vuelve a procesar los modelos. Para más información, consulte Processing Data Mining Objects.

  • Actualizar dinámicamente los modelos, cuando entren más datos en la organización, y realizar modificaciones constantes para mejorar la efectividad de la solución debería ser parte de la estrategia de implementación. Para obtener más información, vea Administración de las soluciones y los objetos de minería de datos.

Consulte también

Soluciones de minería de datos
Herramientas de minería de datos