模拟 Azure OpenAI API

2025-06-21

生成连接到 Azure OpenAI 的应用时，通常只有一部分应用与 Azure OpenAI API 交互。在处理不需要 Azure OpenAI API 实际答复的应用部分时，可以使用开发代理模拟响应。使用模拟响应可以避免产生不必要的成本。它使用 OpenAIMockResponsePlugin 计算机上运行的本地语言模型来模拟来自 Azure OpenAI API 的响应。

开始之前

要使用开发代理模拟 Azure OpenAI API 响应，您需要在计算机上安装受支持的语言模型客户端。

默认情况下，Dev Proxy 使用在 Ollama 上运行的 llama3.2 语言模型。要使用其他客户端或模型，请更新 Dev Proxy 配置文件中的语言模型设置。

配置开发代理以模拟 Azure OpenAI API 响应

提示

本教程中所述的步骤在现成的开发代理预设中提供。若要使用预设，请在命令行中运行 devproxy preset get simulate-azure-openai并按照说明进行操作。

若要使用开发代理模拟 Azure OpenAI API 响应，需要启用 OpenAIMockResponsePlugin 该文件 devproxyrc.json 。

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v0.29.2/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

接下来，将开发代理配置为截获对 Azure OpenAI API 的请求。为简单起见，请使用通配符截获所有部署的请求。

{
  // [...] trimmed for brevity
  "urlsToWatch": [
    "https://*.openai.azure.com/openai/deployments/*/completions*"
  ]
}

最后，将开发代理配置为使用本地语言模型。

{
  // [...] trimmed for brevity
  "languageModel": {
    "enabled": true
  }
}

完整的配置文件如下所示。

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v0.29.2/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ],
  "urlsToWatch": [
    "https://*.openai.azure.com/openai/deployments/*/completions*"
  ],
  "languageModel": {
    "enabled": true
  }
}