Estrategias de IA generativa para consultas matemáticas y de datos

Actualmente, existen diferentes opiniones sobre qué tan bien herramientas como ChatGPT u otros modelos de lenguaje manejan consultas matemáticas y de datos. En este artículo, identificaremos estrategias y estableceremos expectativas al crear agentes que manejen consultas matemáticas y de datos. Copilot Studio

Definiciones de consultas matemáticas y de datos en este artículo

El objetivo de este artículo no es evaluar si la IA generativa puede ayudar a calcular el perímetro de un rectángulo o el diámetro de un círculo. Matemáticas, en este contexto, se refiere a preguntas típicas en lenguaje natural que alguien le haría a un agente. Estas preguntas suponen que la IA puede agregar e interpretar sumas, promedios y tendencias en las fuentes de conocimiento o tablas de datos utilizadas para fundamentar los modelos.

El resultado deseado, en este caso, no es responder una ecuación matemática. Más bien, su objetivo es ayudar al usuario a evaluar o comprender los datos de forma más eficiente. Cuando los usuarios buscan análisis de datos profundos, como análisis predictivos o prescriptivos avanzados, un agente personalizado normalmente no es la herramienta elegida. Sin embargo, hay varios agentes en la pila Microsoft que están más directamente centrados en el análisis. Por ejemplo, los siguientes agentes complementan el código de aplicación modelo de lenguaje con Microsoft para este propósito:

• Agregar Copilot para usuarios de aplicación en aplicaciones basadas en modelos
• Visualizar datos en una vista con el servicio Power BI
• Microsoft 365 Copilot para ventas
• Incruste un informe con una descripción visual Copilot Power BI
• Identifique insights con Copilot en Excel

Agregados de datos en comprensión del lenguaje natural

Cuando basamos un agente en nuestras propias fuentes de conocimiento, simplificamos el descubrimiento de información solicitada por un usuario en lenguaje natural. Tenga en cuenta que los modelos de lenguaje están diseñados para predecir la siguiente palabra en una secuencia en lugar de realizar cálculos matemáticos rigurosos. Sin embargo, todavía pueden proporcionar información y explicaciones útiles. Estos conocimientos son más rápidos para descubrir información que explorar los resultados de una búsqueda por palabras clave o desplazarse manualmente por todos los registros de una tabla.

Copilot Studio Los agentes pueden escanear fuentes de conocimiento en nuestro nombre. Estos agentes resumen respuestas a través de temas, acciones y fuentes de conocimiento, ya sea que involucren agregados de datos numéricos o no. Sin embargo, a medida que basamos los modelos en nuestros datos, debemos contextualizar los datos necesarios para que la IA responda. En base a este entendimiento, sabemos cuándo debemos proporcionar más contexto o nodos tema. Esta comprensión adicional es relevante cuando se encuentran términos específicos o lenguaje altamente técnico en las fuentes de datos. Los siguientes son ejemplos de consultas de datos que involucran expresiones matemáticas:

Preguntas de ejemplo	Aspectos que hay que tener en cuenta
¿Cuántos de nuestros clientes en América del Norte compraron el producto X?	Este mensaje implica múltiples tablas estructuradas en una base de datos relacional y, por lo general, examina cientos o incluso miles de registros.
¿Cuál fue el impacto total del costo de los trabajos de reparación después del huracán?	Este mensaje incluye una tabla de elementos reparados, con una columna para el impacto del costo de cada elemento de trabajo. Si la tabla tiene más reparaciones que elementos de trabajo relacionados con el huracán, entonces se necesitará una columna de categoría o motivo para que la IA sepa cuáles están relacionados con el huracán.
¿Cuáles de nuestros clientes presentaron más solicitudes de cambio?	Este mensaje incluye una tabla con solicitudes de cambio y una tabla relacionada con los nombres de los clientes. Sin embargo, primero se cuentan las solicitudes por cliente y luego se devuelve el cliente con la mayor cantidad de solicitudes (y no el valor en dólares con el mayor impacto en los costos).

Claridad y estructura inmediatas

Los modelos de lenguaje dependen en gran medida de lo bien formulada la pregunta. Una instrucción bien estructurada que explica claramente el problema matemático, define variables y divide el tarea en pasos conduce a respuestas más precisas. Por ejemplo, pedir una respuesta directa a un problema aritmético simple probablemente funcione bien, pero preguntas vagas o de múltiples capas sin un contexto claro podrían confundir el modelo.

A continuación se presentan algunos ejemplos de indicaciones basadas en una fuente de conocimiento estructurada como una Dataverse tabla. Este ejemplo ilustra la adición de una tabla, como se muestra en la siguiente imagen. Power Apps Dataverse

La tabla se agregó como fuente de conocimiento y se le proporcionó una descripción precisa del conocimiento, junto con sinónimos y definiciones de glosario para ayudar a la IA a interpretar los datos. Dataverse

Indicaciones específicas

Estas indicaciones son específicas y se ajustan a la información que se solicita.

• "¿Puede proporcionar detalles completos sobre la orden de cambio de referencia PCO-1003, incluido el nombre de la cuenta, el monto solicitado y el motivo de la solicitud?"
• "¿Cuántas cuentas presentaron solicitudes de cambio en agosto de 2024?"
• "¿Cuál es el número total de órdenes de cambio solicitadas hasta la fecha?"
• "¿Qué cliente presentó el mayor impacto de costos en 2024?"

Indicaciones generalizadas

Estas indicaciones son generalizadas y es poco probable que agreguen consistentemente todos los resultados; probablemente solo devuelvan los tres primeros resultados.

• "Por favor, enumere nuestras cuentas en el orden de sus respectivos ingresos".
• "Enumere las solicitudes de cambio que se presentaron este año en agosto, e incluya los montos y el estado de los cambios".
• "¿Puede enumerar todas las solicitudes de órdenes de cambio enviadas hasta la fecha?"

Oharra

Habilitar o deshabilitar la capacidad de la IA para usar su propia conocimiento general Puede afectar la precisión o idoneidad de las respuestas devueltas.

Sugerencias y trucos

A continuación se ofrecen algunas sugerencias para trabajar con Copilot Studio que le ayudan a establecer expectativas en torno a respuestas generativas que se basan en expresiones matemáticas.

• Planifique escenarios que resalten las principales tendencias, en lugar de esperar cálculos sobre miles de registros. Crear conciencia sobre este enfoque conversacional que resume en lugar de detallar.

• Favorecer fuentes de conocimiento estructuradas (tabulares sobre no tabulares) para optimizar expresiones matemáticas.

• Apoye escenarios específicos y comprenda las dependencias de las diferencias. Por ejemplo, observe la diferencia entre estas dos preguntas:

  • ¿Cuáles de nuestros clientes presentaron más solicitudes de cambio? Cuenta los ID de solicitudes y devuelve el cliente con más solicitudes, ignorando otras columnas

  • ¿Cuáles de nuestros clientes tienen el mayor impacto en los costos de las solicitudes de cambio? Suma la columna de impacto de costos por cliente y devuelve el cliente que envió el monto total en dólares más alto. Solo devuelve esta información si encuentra una columna apropiada que sea numérica o basada en moneda.

• Asegúrese de identificar y definir todas las columnas numéricas para los cálculos. Asegúrese de que estén formateados con el tipo de datos apropiado; tanto en el nivel de fuente de conocimiento como cuando se utilicen en cualquier variable. Copilot Studio Cuando sea posible, incluya una descripción clara e incluya sinónimos comunes para las columnas relevantes en las tablas, columnas o descripciones de acciones.

  Eskupekoa

  Con comprensión del lenguaje natural, si los encabezados de la tabla son demasiado técnicos en su protocolo de nomenclatura, la IA podría no ser capaz de responder las preguntas centradas en el ser humano formuladas durante el flujo de conversación. Agregue descriptores con el lenguaje típico utilizado por sus usuarios.

• Reconozca que las personas sólo obtienen respuestas sobre los datos que tienen permiso para ver. Por ejemplo, una tabla de Ventas en Dataverse podría exponer solo algunos registros a grupos de negocios específicos, pero no todos. Por lo tanto, asegúrese de que su agente no genere expectativas equivocadas sobre cómo se resumen los datos. Por ejemplo, una solicitud de ventas totales en 2024 solo suma los registros propios o compartidos.

• Establezca siempre expectativas del consumidor en cuanto a respuestas impulsadas por IA. Utilice los activadores agente Inicio de conversación o el primer mensaje siguiente a tema , para resaltar suavemente el propósito y las limitaciones de una o más fuentes de conocimiento relevantes.

Utilice las acciones de solicitud del generador de IA

Las acciones de aviso le permiten agregar capacidades de IA generativa desde a sus agentes y soluciones en Power Apps . Copilot Studio Esta función le permite realizar tareas como clasificación, resumen, generación de borradores de contenido, transformación de datos y mucho más. Con acciones rápidas, también puede adaptar las respuestas de IA generativa para utilizar filtros y agregaciones específicos de las tablas.

En la siguiente captura de pantalla, puede ver cómo un creador utilizó acciones de solicitud para resumir las solicitudes de órdenes de cambio tanto de la tabla Cuenta como de la tabla PCO relacionada. Copilot Studio AI Builder Copilot Studio

En el ejemplo anterior, no se utilizaron las fuentes de conocimiento de agente. En su lugar, el mensaje incluye la variable de mensaje dinámico para el Número de cuenta y una tabla de Dataverse como Datos.

Eskupekoa

La IA asume las tablas relacionadas y no es necesario agregarlas en este caso. (La tabla PCO tiene una relación de muchos a uno con Cuentas).