最近Azure OpenAIのGPT4-vision-previewで1分超えレスポンスが多発問題

Question

2024/5/9、5/13にAPI利用時にAPIのレスポンスとしてタイムアウトが頻繁に応答されました。

返答があるにしても1分以上かかったりしています。

急にレスポンスが遅い原因と発生する頻度等がわかれば教えていただきたいです。

■条件

• APIは以下のリンクを使用
  • https://learn.microsoft.com/ja-jp/azure/ai-services/openai/reference#chat-completions
• 使用しているモデル
  • モデルバージョン：vision-preview
  • デプロイの種類：Standard
  • 1 分あたりのトークンレート制限 (数千): 30
  • レート制限 (1 分あたりのトークン数): 30000
  • レート制限 (1 分あたりの要求数): 30