Interpretación del impacto en la seguridad del uso de herramientas asistidas por IA

Completado

Antes de habilitar las herramientas asistidas por IA en el entorno de desarrollo de bases de datos, debe comprender las implicaciones de seguridad. Código de proceso de GitHub Copilot y Fabric Copilot, esquemas de base de datos y patrones de datos potencialmente confidenciales, lo que hace que la conciencia de seguridad sea esencial para la adopción responsable.

Cómo procesan los asistentes de IA los datos

Cuando se usa GitHub Copilot o Fabric Copilot, los mensajes y el contexto de código se envían a los modelos de inteligencia artificial basados en la nube para su procesamiento. Comprender qué flujos de datos fluyen a estos servicios le ayuda a tomar decisiones fundamentadas sobre dónde y cómo usar la asistencia de inteligencia artificial.

GitHub Copilot transmite los siguientes datos para generar sugerencias:

• El código que está escribiendo o editando actualmente
• Contenido de archivos abiertos en el editor que proporcionan contexto
• Información del esquema de la base de datos cuando está conectada a una base de datos
• Sus indicaciones y preguntas de lenguaje natural

Fabric Copilot procesa datos similares en el contexto del área de trabajo de Fabric, incluidos los metadatos sobre los almacenes, los almacenes de lago de datos y los modelos semánticos.

Nota:

Tanto GitHub Copilot como Fabric Copilot están diseñados para proteger los datos. Las solicitudes y respuestas no se usan para entrenar los modelos de IA subyacentes y los datos se cifran en tránsito y en reposo.

Consideraciones sobre directivas organizativas

Es posible que su organización tenga directivas específicas sobre el uso de herramientas de inteligencia artificial, especialmente cuando se trabaja con datos confidenciales. Antes de habilitar las herramientas asistidas por IA, tenga en cuenta estas preguntas:

Clasificación de datos: ¿La base de datos contiene información de identificación personal (PII), registros financieros, datos sanitarios u otra información regulada? Algunas organizaciones restringen el uso de herramientas de inteligencia artificial para las bases de datos que contienen clasificaciones de datos confidenciales.

Requisitos de cumplimiento: ¿Está sujeto a marcos de cumplimiento? Revise si el uso de servicios de inteligencia artificial basados en la nube se alinea con sus obligaciones de cumplimiento.

Propiedad intelectual: ¿Su organización tiene directivas sobre el código o la información de esquema que procesan los servicios de inteligencia artificial externos? Algunos diseños de base de datos propietarios pueden considerarse secretos comerciales.

Controles de acceso: ¿Quién de su organización debe tener acceso a las herramientas asistidas por IA? Es posible que tenga que alinear las licencias de herramientas de inteligencia artificial con los permisos de acceso a bases de datos existentes.

Características de seguridad de GitHub Copilot

GitHub Copilot incluye varias características de seguridad que ayudan a proteger su organización:

Filtrado de contenido: Copilot filtra sugerencias para evitar generar patrones de código potencialmente dañinos, incluidas vulnerabilidades de inyección de CÓDIGO SQL y otros antipatrones de seguridad.

Directivas de la organización: los administradores empresariales pueden configurar directivas que controlan cómo se usa Copilot en toda la organización, incluidos los repositorios que pueden usar Copilot y si las sugerencias pueden incluir código que coincida con repositorios públicos.

Registro de auditoría: las organizaciones que usan GitHub Enterprise Cloud pueden realizar un seguimiento del uso de Copilot a través de registros de auditoría, lo que proporciona visibilidad sobre cómo se usa la herramienta.

Para obtener información detallada sobre las prácticas de seguridad de GitHub Copilot, revise la documentación oficial de GitHub Copilot en SSMS.

Protección de credenciales y cadenas de conexión

Una práctica de seguridad crítica es asegurarse de que las herramientas de inteligencia artificial nunca vean las credenciales de la base de datos directamente. Siga estas instrucciones:

• No pegue nunca las credenciales en mensajes: no pida al asistente de IA que le ayude con cadenas de conexión que contengan contraseñas o claves reales.
• Uso de variables de entorno: almacenar información de conexión en variables de entorno en lugar de codificar de forma dura en los archivos que la inteligencia artificial puede ver.
• Revisión antes de confirmar: compruebe el código generado por IA para ver si hay información confidencial incluida accidentalmente antes de confirmar el control de código fuente.

-- AVOID: Hardcoded credentials in AI-visible files
-- This pattern should never appear in your code
-- CREATE LOGIN username WITH PASSWORD = 'actual_password';

-- RECOMMENDED: Use parameterized approaches
-- CREATE LOGIN username WITH PASSWORD = $(password);

Evaluación de las sugerencias de inteligencia artificial de forma crítica

El código generado por IA requiere la misma revisión de seguridad que cualquier otro código que ingrese a su entorno de base de datos. Tenga en cuenta estos procedimientos:

Revisar permisos: cuando Copilot sugiere las instrucciones GRANT o REVOKE, compruebe que los permisos se alinean con su modelo de seguridad con privilegios mínimos.

Validar SQL dinámico: SQL dinámico generado por ia podría ser vulnerable a la inyección si no se parametriza correctamente. Compruebe siempre el uso adecuado de sp_executesql con parámetros.

Verificar la exposición de datos: revíse las SELECT instrucciones para garantizar que no expongan más datos de lo previsto por accidente, especialmente en vistas o procedimientos almacenados que podrían utilizar las aplicaciones.

Sugerencia

Trate el código generado por ia como primer borrador que requiera revisión humana. El asistente optimiza la funcionalidad y los patrones comunes, pero conoce sus requisitos de seguridad específicos.

Consideraciones de seguridad del servidor MCP

Al configurar servidores de Protocolo de contexto de modelo (MCP), se establecen conexiones directas entre los asistentes de IA y las bases de datos. Esto requiere atención cuidadosa a la seguridad:

Autenticación: las conexiones MCP deben usar el principio de privilegios mínimos. Cree cuentas de servicio dedicadas con acceso de solo lectura cuando la inteligencia artificial solo necesite consultar información de esquema.

Seguridad de red: considere si el tráfico MCP debe atravesar redes públicas. Para entornos confidenciales, es posible que necesite puntos de conexión privados o conexiones VPN.

Muestreo de datos: algunas configuraciones de MCP permiten que los datos de muestreo mejoren las sugerencias. Comprenda qué datos se pueden transmitir y si esto se alinea con las directivas de control de datos.

Comprender estas consideraciones de seguridad le prepara para implementar herramientas asistidas por inteligencia artificial de una manera que se alinee con la posición de seguridad de la organización. La siguiente unidad le guía por el proceso real de habilitación de GitHub Copilot y Fabric Copilot teniendo en cuenta los procedimientos recomendados de seguridad.