Azure
Eine Cloud Computing-Plattform und -Infrastruktur für die Erstellung, Bereitstellung und Verwaltung von Anwendungen und Diensten über ein weltweites Netzwerk aus Rechenzentren, die von Microsoft verwaltetet werden.
Azure OpenAi Responses API Timeout
![](data:image/svg+xml, %3Csvg xmlns='http://www.w3.org/2000/svg' height='64' class='font-weight-bold' style='font: 600 30.11764705882353px "SegoeUI", Arial' width='64'%3E%3Ccircle fill='hsl(182.40000000000003, 14.000000000000002%, 27%)' cx='32' cy='32' r='32' /%3E%3Ctext x='50%25' y='55%25' dominant-baseline='middle' text-anchor='middle' fill='%23FFF' %3EMJ%3C/text%3E%3C/svg%3E)
Markus Jungnickel
0
Zuverlässigkeitspunkte
Very slow model response times on responses API since last 24h, causing the Openai SDK to time out. Major production impact on users. Pls advice.
See example: tiny request times out after 90s. In production timeout happens after 20min, and yet still regularly occurs.
curl --max-time 90 \ -X POST "https://***.openai.azure.com/openai/responses?api-version=2025-03-01-preview" \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $AZURE_API_KEY" \ -d '{ "model": "gpt-4.1", "input": [ { "role": "user", "content": "I am going to Paris, what should I see?" } ] }' curl: (28) Operation timed out after 90006 milliseconds with 0 bytes received
Azure
{count} Stimmen
-
![](data:image/svg+xml, %3Csvg xmlns='http://www.w3.org/2000/svg' height='64' class='font-weight-bold' style='font: 600 30.11764705882353px "SegoeUI", Arial' width='64'%3E%3Ccircle fill='hsl(220.8, 32%, 31%)' cx='32' cy='32' r='32' /%3E%3Ctext x='50%25' y='55%25' dominant-baseline='middle' text-anchor='middle' fill='%23FFF' %3ERS%3C/text%3E%3C/svg%3E)
Ravada Shivaprasad 1,965 Zuverlässigkeitspunkte Externe Microsoft-Mitarbeiter Moderator2025-08-18T16:37:15.05+00:00 Hallo Markus Jungnickel
Bei der Azure OpenAI Responses-API traten erhebliche Latenzprobleme auf, insbesondere bei der Verwendung von Modellen wie GPT-4.1. Diese Verzögerungen führen dazu, dass das OpenAI SDK selbst bei minimalen Anfragen eine Zeitüberschreitung aufweist, wobei Produktionsumgebungen Zeitüberschreitungen von bis zu 20 Minuten melden. Dies hat zu erheblichen Unterbrechungen für Benutzer geführt, die auf Echtzeit-Antworten angewiesen sind. Das Problem scheint regionsspezifisch zu sein, da derzeit Schweden, Mitte, betroffen ist, und in den letzten Monaten wurden ähnliche Probleme in anderen Regionen gemeldet. Insbesondere schlägt die API im Hintergrund fehl, ohne dass Standard-Timeoutfehler zurückgegeben werden, was die Diagnose erschwert.
Die Ursache hängt wahrscheinlich mit regionalen Kapazitätseinschränkungen oder Ineffizienzen beim Modellrouting zusammen, insbesondere bei Modellen mit hoher Rechenleistung wie GPT-5 und o3-pro, die aufgrund ihrer großen Token-Limits und Verarbeitungsanforderungen anfälliger für Timeouts sind. OpenAI empfiehlt die Verwendung des Hintergrundmodus mit Abrufen oder Webhooks, um Antworten asynchron abzurufen, wodurch clientseitige Timeouts vermieden werden. Darüber hinaus können das Aktivieren der automatischen Skalierung in Azure API Management und das Überwachen des Zuverlässigkeitsdashboards von Azure Advisor dazu beitragen, die Last zu verwalten und die Resilienz zu verbessern. Wenn das Problem weiterhin besteht, ist es ratsam, mit detaillierten Ablaufverfolgungsprotokollen, einschließlich Zeitstempeln, Regionen und Anforderungsnutzlasten, an den Azure-Support zu eskalieren, um die Untersuchung und Lösung zu erleichtern.
Hoffe es hilft!
Vielen Dank
-
Ravada Shivaprasad 1,965 Zuverlässigkeitspunkte Externe Microsoft-Mitarbeiter Moderator
2025-08-21T01:01:30.46+00:00 -
![](data:image/svg+xml, %3Csvg xmlns='http://www.w3.org/2000/svg' height='64' class='font-weight-bold' style='font: 600 30.11764705882353px "SegoeUI", Arial' width='64'%3E%3Ccircle fill='hsl(204.8, 15%, 29%)' cx='32' cy='32' r='32' /%3E%3Ctext x='50%25' y='55%25' dominant-baseline='middle' text-anchor='middle' fill='%23FFF' %3EMM%3C/text%3E%3C/svg%3E)
Manas Mohanty 14,175 Zuverlässigkeitspunkte Externe Microsoft-Mitarbeiter Moderator2025-08-25T11:26:04.0966667+00:00 Hallo Markus Jungnickel
Am 15. August gab es eine Störung der Response API, die am 19. August behoben wurde.
Ich hoffe, das Problem wurde auch auf Ihrer Seite gelöst.
-
Ravada Shivaprasad 1,965 Zuverlässigkeitspunkte Externe Microsoft-Mitarbeiter Moderator
2025-08-26T18:14:07.3433333+00:00 Hallo Markus Jungnickel
Verfolgen Sie einfach, ob Sie die Möglichkeit hatten, die obige Antwort zu überprüfen.
Vielen Dank!
Zum Kommentieren anmelden
Anmelden, um zu antworten