Novedades de Seguridad del contenido de Azure AI
Conozca las novedades del servicio. Estos elementos pueden ser notas de la versión, vídeos, entradas de blogs y otros tipos de información. Marque esta página para mantenerse al día respecto a nuevas características, mejoras, correcciones y actualizaciones de documentación.
Octubre de 2024
Próximas desusaciones
Con el objetivo de una alineación con las directivas de control de versiones de seguridad de contenido y administración del ciclo de vida, las siguientes versiones están programadas para quedar en desuso:
- A partir del 28 de enero de 2024: todas las versiones excepto
2024-09-01,2024-09-15-previewy2024-09-30-previewquedarán en desuso y ya no se admitirán. Animamos a los usuarios a realizar la transición a las versiones más recientes disponibles para seguir recibiendo soporte técnico y actualizaciones completos. Si tiene alguna pregunta sobre este proceso o necesita ayuda con la transición, comuníquese con nuestro equipo de soporte técnico.
Septiembre de 2024
Análisis ferroviario (versión preliminar)
La API bidireccional analiza los materiales que contienen contenido de imagen y contenido de texto para ayudar a que las aplicaciones y los servicios sean más seguros frente a contenido generado por el usuario o generado por IA dañinos. Analizar una imagen y su contenido de texto asociado juntos pueden conservar el contexto y proporcionar una comprensión más completa del contenido. Siga el inicio rápido para comenzar.
Detección de materiales protegidos para código (versión preliminar)
La API de código de material protegido marca el contenido de código protegido (de repositorios conocidos de GitHub, incluidas bibliotecas de software, código fuente, algoritmos y otro contenido de programación propietario) que podrían generar modelos de lenguaje grandes. Siga el inicio rápido para comenzar.
Precaución
El analizador o indexador de código del servicio de seguridad de contenido solo está actualizado hasta el 6 de noviembre de 2021. No se detectará el código que se agregó a GitHub después de esta fecha. Use su propia discreción al usar material protegido para código para detectar cuerpos recientes de código.
Corrección de la base (versión preliminar)
La API de detección de fundamentos incluye una característica de corrección que corrige automáticamente cualquier falta de fundamento detectada en el texto en función de las fuentes proporcionadas. Cuando se habilita la característica de corrección, la respuesta incluye un campo corrected Text que presenta el texto corregido alineado con el origen. Siga el inicio rápido para comenzar.
Agosto de 2024
Las nuevas características son disponibilidad general
La API Prompt Shields y la API de detección de base ahora están disponibles con carácter general (GA). Siga un inicio rápido para probarlas.
Julio de 2024
Versión preliminar pública de la API de categorías personalizadas (estándar)
La API de categorías personalizadas (estándar) le permite crear y entrenar categorías de contenido personalizadas propias y examinar texto en busca de coincidencias. Consulte Categorías personalizadas para obtener información.
Mayo de 2024
Versión preliminar pública de la API de categorías personalizadas (rápidas)
La API de categorías personalizadas (rápidas) le permite definir rápidamente patrones de contenido dañinos emergentes y examinar texto e imágenes para buscar coincidencias. Consulte Categorías personalizadas para obtener información.
Marzo de 2024
Versión preliminar pública de Escudos de avisos
Anteriormente conocida como detección de riesgo de jailbreak, esta característica actualizada detecta ataques por inyección de mensajes de usuario, en los que los usuarios aprovechan deliberadamente las vulnerabilidades del sistema para generar un comportamiento no autorizado del modelo de lenguaje grande. Prompt Shields analiza tanto los ataques directos por inyección de mensajes de usuario como los ataques indirectos que se insertan en documentos o imágenes de entrada. Consulte Escudos de avisos para obtener más información.
Versión preliminar pública de detección de la base
La API de detección de la base detecta si las respuestas de texto de los modelos de lenguaje grande (LLM) se basan en los materiales de origen proporcionados por los usuarios. La ausencia de fundamentos describe las instancias en las que los LLM producen información no factual o inexacta de lo que estaba presente en los materiales de origen. Consulte Detección de la base para obtener más información.
Enero de 2024
Disponibilidad general del SDK de seguridad de contenido
El servicio Seguridad del contenido de Azure AI ahora está disponible con carácter general a través de los siguientes SDK de biblioteca cliente:
- C#: Paquete | API de referencia | Ejemplos | Guías de inicio rápido: Texto, Imagen
- Python: Paquete | API de referencia | Ejemplos | Guías de inicio rápido: Texto, Imagen
- Java: Paquete | API de referencia | Ejemplos | Guías de inicio rápido: Texto, Imagen
- JavaScript: Paquete | API de referencia | Ejemplos | Guías de inicio rápido: Texto, Imagen
Importante
Las versiones preliminares públicas de los SDK de seguridad de contenido de Azure AI quedarán en desuso el 31 de marzo de 2024. Actualice las aplicaciones para que usen las versiones de disponibilidad general.
Noviembre de 2023
Detección de riesgo de jailbreak y materiales protegidos (versión preliminar)
Las nuevas API de detección de riesgo de jailbreak y detección de materiales protegidos le permiten mitigar algunos de los riesgos al usar la inteligencia artificial generativa.
- La detección de riesgos de Jailbreak examina el texto del riesgo de un ataque de jailbreak en un modelo de lenguaje grande. Guía de inicio rápido
- La detección de texto de material protegido digitaliza el texto generado por la inteligencia artificial en busca de contenido de texto conocido (por ejemplo, letras de canciones, artículos, recetas, contenido web seleccionado). Guía de inicio rápido
La detección de riesgo de jailbreak y de materiales protegidos solo están disponibles en regiones seleccionadas. Consulte Disponibilidad de la región.
Octubre de 2023
La seguridad del contenido de Azure AI está disponible con carácter general (GA)
El servicio Seguridad del contenido de Azure AI ahora está disponible con carácter general como servicio en la nube.
- El servicio está disponible en muchas más regiones de Azure. Consulte Información general para obtener una lista.
- Los formatos de retorno de las API de análisis han cambiado. Consulte los Inicios rápidos para ver los ejemplos más recientes.
- Los nombres y los formatos de devolución de varias API han cambiado. Consulte la Guía de migración para obtener una lista completa de los cambios importantes. Otras guías e inicios rápidos ahora reflejan la versión de disponibilidad general.
SDK de Java y JavaScript para la seguridad de contenido de Azure AI
El servicio Seguridad del contenido de Azure AI ya está disponible a través de los SDK de Java y JavaScript. Los SDK están disponibles en Maven y npm, respectivamente. Siga un inicio rápido para comenzar.
Jul. de 2023
SDK de C# de Seguridad del contenido de Azure AI
El servicio de seguridad de contenido de Azure AI ya está disponible a través de un SDK de C#. El SDK está disponible en NuGet. Siga un inicio rápido para comenzar.
Mayo de 2023
Versión preliminar pública de Seguridad del contenido de Azure AI
Azure AI Content Safety detecta material potencialmente ofensivo, arriesgado o no deseado. Este servicio ofrece modelos de imagen y texto de última generación que detectan contenido problemático. Azure AI Content Safety ayuda a que las aplicaciones y los servicios sean más seguros frente al contenido dañino generado por el usuario y la IA. Siga un inicio rápido para comenzar.
Actualizaciones de servicios de Azure AI
Anuncios de actualización de Azure para los servicios de Azure AI