Azure OpenAI Service is hallucinating in a specific deployment

Question

Español

Hola equipo de Azure Open AI, ¿cómo están? Estamos afrontando un problema crítico de alucinaciones en un único deployment (“darwin-llms”, región East US, modelo GPT-4o). Tras la carga de imágenes por parte de un usuario, el modelo responde con cadenas de símbolos aleatorios (p. ej. «'''''''''''''''''» o «.......................») y con mensajes sin sentido sobre temas ajenos, como una iglesia que nunca aparece en el contexto. Este comportamiento está afectando a nuestros clientes en producción y compromete gravemente la calidad de nuestro servicio. Adjuntamos capturas que ilustran el incidente y solicitamos, con la máxima urgencia, su revisión y las indicaciones necesarias para solucionarlo. ¡Muchas gracias!

---

English

Hello Azure Open AI team, how are you? We are facing a critical hallucination issue in a single deployment (“darwin-llms”, East US region, GPT-4o model). After a user uploads images, the model replies with strings of random symbols (e.g., “'''''''''''''''''” or “.......................”) and with nonsensical messages about unrelated topics, such as a church that was never part of the context. This behaviour is impacting our production customers and severely degrading our service quality. We have attached screenshots illustrating the incident and kindly request your urgent assistance in reviewing it and providing guidance on how to resolve the problem. Thank you very much!