Como puede saber y controlar mis tokens y si hay alguna fuga de infrormacion.

Question

Creo que tengo fuga de informacion en mis proyectos IA, como pueden ayudarme

Answer 1

Hola

Bienvenido a la comunidad Microsoft Azure

cómo estás? Puedes controlar tus tokens y evitar posibles fugas de información en Azure siguiendo estas recomendaciones:

Control de tokens

• Revisa tu consumo en Cost Management + Billing y configura alertas de gasto.
  https://learn.microsoft.com/azure/cost-management-billing

Prevención de fuga de datos

Deshabilita almacenamiento de datos en Azure OpenAI.

Usa Azure Key Vault para proteger claves y secretos.

• Revisa permisos con Azure RBAC.
  https://learn.microsoft.com/azure/ai-services/openai/concepts/responsible-use

Si deseas, puedo ayudarte a revisar tu configuración actual para asegurarte de que tus proyectos estén protegidos.

Answer 2

Hola Americo Ortega

Gracias por ponerse en contacto con Microsoft Q&A.

Tenga en cuenta que estoy utilizando Google Translate para comunicarme, ya que no hablo español con fluidez, así que si algo no está claro o es inexacto, ¡hágamelo saber y haré todo lo posible por aclararlo! Cómo conocer y controlar sus tokens

1.) Monitorear el uso de tokens Vaya al Portal de Azure → Gestión de Costos + Facturación → Detalles de uso para ver el desglose de tokens. Use Métricas en su recurso de Azure OpenAI para rastrear los tokens de entrada/salida por implementación.

2.) Establecer cuotas y límites de velocidad En Azure OpenAI → Implementaciones → Cuotas, configure los límites de velocidad (solicitudes por minuto, tokens por minuto) para evitar un uso descontrolado.

3.) Crear presupuestos y alertas En la Gestión de Costos, establece un presupuesto y configura alertas cuando el gasto se acerque a los límites.

Detectar y Prevenir la Fuga de Información Si sospecha de la exposición de datos sensibles en proyectos de IA: Habilitar el Filtrado de Contenido Azure OpenAI incluye filtros integrados para resultados dañinos o sensibles. Usar Azure Key Vault Almacene claves API y secretos de manera segura; nunca codifique credenciales directamente. Aplicar Prevención de Pérdida de Datos (DLP) Integrarse con Microsoft Purview para la clasificación y prevención de fugas. Auditoría y Registros Habilite la Configuración de Diagnóstico para su recurso de OpenAI para capturar registros de solicitudes/respuestas. Restringir el Acceso Use RBAC e Identidades Administradas para limitar quién puede llamar a la API. Documentación de Microsoft como Referencia:-

https://learn.microsoft.com/en-us/azure/cost-management-billing/

https://learn.microsoft.com/en-us/azure/ai-foundry/openai/overview

Por favor, háganos saber si los pasos anteriores ayudan a resolver su consulta