Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
La inteligencia artificial responsable se guía por un conjunto de principios que definen cómo deben funcionar los sistemas de inteligencia artificial. Estos principios se centran en la equidad, confiabilidad, seguridad, privacidad, seguridad, inclusión, transparencia y responsabilidad. Establecen los estándares que rigen cómo Microsoft evalúa los riesgos, diseña las características de inteligencia artificial y garantiza un comportamiento responsable del sistema.
La aplicación de estos principios al diseño del agente ayuda a evitar daños imprevistos, como sesgos, información errónea o infracciones de privacidad. También favorece la confianza del usuario y la adopción a largo plazo. Siguiendo estas directrices, puede crear agentes de inteligencia artificial que funcionen de manera eficaz y, al mismo tiempo, mantengan los estándares de integridad y respeto que los usuarios y la sociedad esperan de los productos de Microsoft.
En este artículo se proporciona una introducción de alto nivel a la inteligencia artificial responsable, ya que se aplica al diseño del agente. Para obtener instrucciones completas, consulte Microsoft los principios y el enfoque de inteligencia artificial responsable.
Principios de inteligencia artificial responsable
Los principios de inteligencia artificial responsables guían cómo diseñar, compilar y operar agentes en Microsoft 365 Copilot. Establecen un estándar compartido para el comportamiento del agente, el control de datos y la interacción del usuario para garantizar que los sistemas de inteligencia artificial sean confiables, seguros y alineados con los valores humanos.
Estos principios se aplican en todo el ciclo de vida del agente, desde el diseño y el desarrollo hasta la implementación y el uso continuo. Informan a las decisiones sobre el diseño de la interacción, el modelo y la selección de conocimientos, la autonomía, la seguridad y la gobernanza. Al seguir estos principios, se garantiza que los agentes proporcionen valor de forma responsable al tiempo que mantienen la confianza del usuario y la adopción a largo plazo.
| Principio | Qué significa para el diseño del agente |
|---|---|
| Equidad | Los sistemas de inteligencia artificial deben proporcionar resultados coherentes y equitativos para todos los usuarios. Los comportamientos del agente deben evitar crear o reforzar el tratamiento injusto en función de atributos confidenciales o contexto de usuario. |
| Confiabilidad y seguridad | Los sistemas de inteligencia artificial deben funcionar según lo previsto en una amplia gama de condiciones. Los agentes deben controlar la variabilidad, los casos perimetrales y las entradas inesperadas de maneras que admiten un comportamiento seguro y predecible. |
| Privacidad y seguridad | Los sistemas de inteligencia artificial deben proteger los datos de los usuarios y respetar los requisitos de privacidad y seguridad establecidos. Los agentes solo deben usar la información a la que están autorizadas para acceder y deben controlar esa información de forma responsable. |
| Inclusión | Los sistemas de inteligencia artificial deben capacitar a todos los usuarios y adaptarse a diversas necesidades. Los agentes deben tener en cuenta la accesibilidad, la variación del lenguaje y los distintos niveles de competencia técnica para garantizar una experiencia inclusiva. |
| Transparencia | Los sistemas de inteligencia artificial deben aclarar sus funcionalidades y limitaciones. Los agentes deben comunicar lo que pueden hacer, cómo se usa la información y cómo se generan las salidas para que los usuarios puedan tomar decisiones informadas. |
| Responsabilidad | Los sistemas de inteligencia artificial requieren una supervisión clara. Los equipos que desarrollan agentes son responsables de garantizar que el sistema cumple los principios de inteligencia artificial responsable, cumple los requisitos de cumplimiento y funciona bajo la gobernanza humana adecuada. |
Aplicación de inteligencia artificial responsable en el desarrollo de agentes
Microsoft usa un modelo estructurado para integrar los principios de inteligencia artificial responsable a lo largo del desarrollo de agentes de inteligencia artificial. Este modelo ayuda a los equipos a identificar riesgos, buscar las mitigaciones adecuadas y mantener un comportamiento responsable durante el ciclo de vida del agente.
Como diseñador, las decisiones afectan directamente a cómo se cumplen estas funciones. Las siguientes funciones clave describen cómo se pone en práctica la inteligencia artificial responsable:
| Function | Description |
|---|---|
| Govern | Establece las directivas, roles y procesos que siguen los equipos al diseñar e implementar agentes. La gobernanza garantiza la alineación con los principios de inteligencia artificial responsable y proporciona una responsabilidad clara. |
| Map | Identifica y prioriza los posibles riesgos asociados a un escenario de inteligencia artificial. El mapeo permite tomar decisiones informadas sobre las estrategias de mitigación y ayuda a determinar si una solución de inteligencia artificial es adecuada para el contexto previsto. |
| Measure | Evalúa los riesgos y el rendimiento del sistema para guiar el diseño y el refinamiento de las mitigaciones. La medición es esencial a medida que las funcionalidades de inteligencia artificial crecen en complejidad y requieren una evaluación continua. |
| Administrar | Aplica y mantiene mitigaciones de riesgo durante toda la implementación y la operación continua. Los equipos supervisan el comportamiento del sistema y ajustan las medidas de mitigación según sea necesario para garantizar que los agentes sigan actuando de forma responsable a lo largo del tiempo. |
Filtros de seguridad y transparencia de inteligencia artificial
La transparencia es una piedra angular de la inteligencia artificial responsable. Al diseñar agentes, comunique claramente la presencia y el rol de inteligencia artificial dentro de la experiencia del producto. Informe a los usuarios sobre el propósito, las funcionalidades, las limitaciones y los posibles riesgos del agente. Esta transparencia permite a los usuarios tomar decisiones fundamentadas y fomentar la confianza en el sistema.
Las implementaciones prácticas de transparencia incluyen notas de transparencia y divulgaciones en el producto que explican cómo funciona la inteligencia artificial y qué pueden esperar los usuarios. Por ejemplo, en la experiencia de Chat empresarial, el agente usa indicadores claros, como el etiquetado como "El contenido generado por IA puede ser incorrecto", para ayudar a establecer las expectativas adecuadas y dar soporte al uso responsable.
Filtros de seguridad
Los filtros de seguridad ayudan a garantizar que los agentes se comporten de maneras adecuadas, respetuosas y alineadas con los principios de inteligencia artificial responsable de Microsoft. Estas medidas de seguridad reducen el riesgo de salidas perjudiciales, sesgadas o engañosas, al tiempo que protegen la privacidad del usuario y la información confidencial a lo largo de la interacción.
Los agentes basados en Copilot heredan los compromisos de inteligencia artificial responsable de Microsoft, que se centran en la equidad, confiabilidad, privacidad y transparencia. Los filtros de seguridad desempeñan un papel fundamental en la aplicación de estos compromisos al guiar cómo responden los agentes a la entrada del usuario, controlar temas confidenciales y administrar el acceso a los datos.
Importante
Como diseñador, no configura filtros de seguridad directamente. Microsoft los aplica en el nivel de plataforma. Sin embargo, sus decisiones de diseño en torno al tono, el ámbito y la transparencia refuerzan directamente o minan la confianza de que los filtros de seguridad están diseñados para proteger.
Al aplicar filtros de seguridad de forma coherente, los agentes pueden reforzar la confianza y la seguridad del usuario. Los usuarios pueden confiar mejor en las respuestas del agente sabiendo que existen medidas de seguridad para promover el comportamiento responsable y el uso ético de la inteligencia artificial.
Tip
Para obtener instrucciones completas sobre el enfoque de inteligencia artificial responsable de Microsoft, incluidos los principios detallados, los marcos de gobernanza y los informes de transparencia, consulte Microsoft los principios y el enfoque de inteligencia artificial responsable.