Modelo de responsabilidad compartida de la inteligencia artificial (IA)

Al considerar y evaluar la integración habilitada por IA, es fundamental entender el modelo de responsabilidad compartida y qué tareas gestiona la plataforma de IA o el proveedor de aplicaciones y cuáles gestionas tú. Las responsabilidades de la carga de trabajo varían según si la integración de IA se basa en software como servicio (SaaS), plataforma como servicio (PaaS) o infraestructura como servicio (IaaS).

Este artículo extiende la responsabilidad compartida en el modelo de nube a las cargas de trabajo de IA generativa. Para agentes de IA autónomos que usan herramientas, véase el modelo de responsabilidad compartida de agentes de IA.

Note

Este artículo utiliza la "responsabilidad" en un sentido de gobernanza: quién se espera que configure, opere y supervise cada control. Es una guía ilustrativa y no pretende transmitir conclusiones legales ni modificar o contradecir los términos de ningún acuerdo entre usted y Microsoft.

División de responsabilidad

Al igual que con los servicios en la nube, existen múltiples opciones cuando implementas capacidades de IA para tu organización. En función de la opción que elija, se hace responsable de diferentes partes de las operaciones y directivas necesarias para usar la inteligencia artificial de forma segura.

En el diagrama siguiente, se muestran las áreas de responsabilidad entre usted y Microsoft, según el tipo de implementación.

Diagrama del modelo de responsabilidad compartida de IA que muestra cómo la responsabilidad de seguridad se divide entre el cliente y Microsoft a través de los modelos de despliegue de IA IaaS, PaaS y SaaS, con tres capas funcionales apiladas de arriba a abajo: uso de IA, aplicación de IA y plataforma de IA.

Introducción a la capa de IA

Una aplicación habilitada por IA consta de tres capas de funcionalidad que agrupan tareas que tú o un proveedor de IA realizáis. Las responsabilidades de seguridad generalmente recaen en la parte que realiza las tareas, pero un proveedor de IA podría optar por exponer la seguridad u otros controles como opción de configuración según corresponda. Estas tres capas incluyen:

Plataforma de inteligencia artificial

La capa de plataforma de IA proporciona las funcionalidades de inteligencia artificial a las aplicaciones. En la capa de plataforma, necesitas construir y proteger la infraestructura que ejecuta el modelo de IA, los datos de entrenamiento y configuraciones específicas que cambian el comportamiento del modelo, como pesos y sesgos. Esta capa de plataforma proporciona acceso a funcionalidades a través de APIs. Las APIs envían texto conocido como metaprompt al modelo de IA para su procesamiento, y luego devuelven el resultado generado, conocido como prompt-response.

Consideraciones de seguridad de las plataformas de IA - Para proteger la plataforma de IA de entradas maliciosas, un sistema de seguridad debe filtrar las instrucciones potencialmente dañinas enviadas al modelo de IA (entradas). Como los modelos de IA son generativos, también pueden generar y devolver contenido dañino al usuario (salidas). Cualquier sistema de seguridad debe protegerse primero frente a entradas y salidas potencialmente dañinas de diversas clasificaciones, como discurso de odio, jailbreaks y otros. Estas clasificaciones de daños probablemente evolucionarán con el tiempo en función del conocimiento del modelo, la ubicación y la industria.

Microsoft tiene sistemas de seguridad integrados para las ofertas de PaaS y SaaS:

Aplicación de IA

La aplicación de IA accede a las funcionalidades de IA y proporciona el servicio o la interfaz que consume el usuario. Los componentes de esta capa pueden variar de relativamente sencillos a muy complejos, en función de la aplicación. Las aplicaciones de IA independientes más simples actúan como interfaz para un conjunto de APIs que toman un prompt de usuario basado en texto y envían esos datos al modelo para una respuesta. Las aplicaciones de IA más complejas incluyen la capacidad de fundamentar el prompt del usuario con contexto adicional, como una capa de persistencia, un índice semántico o complementos que permiten acceder a más fuentes de datos. Las aplicaciones avanzadas de inteligencia artificial también pueden interactuar con aplicaciones y sistemas existentes. Las aplicaciones y sistemas existentes pueden procesar texto, audio e imágenes para generar diversos tipos de contenido.

Consideraciones sobre la seguridad de aplicaciones de IA - Construye un sistema de seguridad de aplicaciones para proteger la aplicación de IA de actividades maliciosas. El sistema de seguridad proporciona una inspección profunda del contenido utilizado en el metaprompt enviado al modelo de IA. El sistema de seguridad también inspecciona las interacciones con cualquier plugin, conector de datos y otras aplicaciones de IA (conocido como orquestación por IA). Una forma de incorporar esto en tu propia aplicación de IA basada en IaaS/PaaS es utilizar el servicio Seguridad del contenido de Azure AI. Hay otras funcionalidades disponibles en función de sus necesidades.

Uso de la IA

En la capa de uso de la IA, se describe cómo se usan y consumen en última instancia las funcionalidades de IA. La IA generativa ofrece un nuevo tipo de interfaz usuario/ordenador, que es fundamentalmente diferente de otras interfaces informáticas, como APIs, sistemas de comandos e interfaces gráficas (GUIs). La interfaz de IA generativa es interactiva y dinámica, lo que permite que las funcionalidades del equipo se ajusten al usuario y a su intención. La interfaz de IA generativa contrasta con las interfaces anteriores, que obligan principalmente a los usuarios a aprender el diseño y la funcionalidad del sistema y ajustarse a ello. Esta interactividad permite que la entrada del usuario, en lugar de la de los diseñadores de aplicaciones, tenga un alto nivel de influencia sobre la salida del sistema, haciendo que las barreras de seguridad sean críticas para proteger a personas, datos y activos empresariales.

Consideraciones sobre la seguridad en el uso de IA - Proteger el uso de IA es similar a proteger cualquier sistema informático porque depende de garantías de seguridad para controles de identidad y acceso, protección y monitorización de dispositivos, protección y gobernanza de datos, controles administrativos y otros controles.

El comportamiento y la rendición de cuentas del usuario requieren más énfasis porque los usuarios ejercen mayor influencia en la salida de los sistemas. Es fundamental actualizar las políticas de uso aceptable y educar a los usuarios sobre las diferencias entre las aplicaciones informáticas estándar y las aplicaciones habilitadas por IA. Las políticas de uso aceptable deben incluir consideraciones específicas de la IA relacionadas con la seguridad, la privacidad y la ética. Además, eduque a los usuarios sobre los ataques basados en IA que los atacantes pueden usar para engañarlos con texto, voces, vídeos y otros contenidos falsos pero convincentes.

Los siguientes recursos definen tipos de ataque específicos de la IA:

Configúralo antes de personalizar

Microsoft recomienda que las organizaciones comiencen con enfoques basados en SaaS como el modelo Copilot para su adopción inicial de IA y para todas las cargas de trabajo posteriores de IA. Este enfoque minimiza el nivel de responsabilidad y experiencia que tu organización debe aportar para diseñar, operar y asegurar estas capacidades tan complejas.

Si las capacidades actuales listas para usar no satisfacen las necesidades específicas de una carga de trabajo, puedes adoptar un modelo PaaS utilizando servicios de IA, como Azure OpenAI Service, para satisfacer esos requisitos específicos.

Solo las organizaciones con profunda experiencia en ciencia de datos y en las consideraciones de seguridad, privacidad y ética de la IA deberían adoptar la construcción de modelos personalizadas.

Para ayudar a llevar la IA al mundo, Microsoft está desarrollando soluciones Copilot para cada una de las principales soluciones de productividad: desde Bing y Windows hasta GitHub y Microsoft 365. Microsoft está desarrollando soluciones full-stack para todo tipo de escenarios de productividad. Microsoft ofrece estas capacidades como soluciones SaaS. Microsoft integra estas capacidades en la interfaz de usuario del producto, donde se ajustan para ayudar al usuario con tareas específicas que aumenten la productividad.

Microsoft diseña cada solución Copilot según los sólidos principios de Microsoft para la gobernanza de la IA.

Pasos siguientes

Obtenga más información sobre los procedimientos recomendados de seguridad de Azure AI.

Obtenga más información sobre los requisitos de desarrollo de los productos de Microsoft para la inteligencia artificial responsable en Estándar de Microsoft para la IA responsable.

Obtenga información sobre las Responsabilidades compartidas de la informática en la nube.

Descubre el modelo de responsabilidad compartida de agentes de IA para sistemas de IA autónomos que utilizan herramientas.

Lee sobre la naturaleza única de las pruebas de amenazas de IA en Microsoft AI Red Team está construyendo el futuro de una IA más segura.

  • Last updated on