Operación de una solución de inteligencia artificial generativa responsable

  • 3 minutos

Una vez que haya identificado los daños posibles, desarrollado una manera de medir su presencia e implementado mitigaciones al respecto en la solución, puede prepararse para publicar la solución. Antes de hacerlo, hay algunas consideraciones que lo ayudarán a garantizar una publicación correcta y las operaciones posteriores.

Realización de revisiones previas a la publicación

Antes de publicar una solución de IA generativa, identifique los distintos requisitos de cumplimiento de la organización y del sector y asegúrese de que los equipos adecuados tienen la oportunidad de revisar el sistema y su documentación. Las revisiones de cumplimiento comunes incluyen:

  • Información legal
  • Privacidad
  • Seguridad
  • Accesibilidad

Liberar y operar la solución

Una publicación correcta requiere cierto planeamiento y preparación. Tenga en cuenta las directrices siguientes:

  • Diseñar un plan de entrega por fases que le permite publicar la solución inicialmente para un grupo restringido de usuarios. Con este enfoque, puede recopilar comentarios e identificar problemas antes de publicarlos para un público más amplio.
  • Cree un plan de respuesta a incidentes que incluya estimaciones del tiempo necesario para responder a incidentes imprevistos.
  • Cree un plan de reversión que defina los pasos para revertir la solución a un estado anterior en caso de incidente.
  • Implemente la capacidad de bloquear inmediatamente las respuestas dañinas del sistema cuando se detecten.
  • Implemente una capacidad para bloquear aplicaciones, direcciones IP de cliente o usuarios específicos en caso de uso incorrecto del sistema.
  • Implemente una manera para que los usuarios proporcionen comentarios e informen los problemas. En concreto, permita que los usuarios notifiquen contenido generado como "inexacto", "incompleto", "dañino", "ofensivo" o problemático de algún otro modo.
  • Haga un seguimiento de los datos de telemetría que le permiten determinar la satisfacción del usuario e identificar brechas funcionales o desafíos de facilidad de uso. La telemetría recopilada debe cumplir con las leyes de privacidad y las directivas y compromisos de su propia organización respecto de la privacidad del usuario.