Symulowanie interfejsu API OpenAI

2025-06-21

Podczas tworzenia aplikacji połączonych z interfejsem OpenAI często tylko część aplikacji wchodzi w interakcję z interfejsem API OpenAI. Gdy pracujesz nad częściami aplikacji, które nie wymagają rzeczywistych odpowiedzi z interfejsu API openAI, możesz symulować odpowiedzi przy użyciu serwera proxy deweloperskiego. Korzystanie z symulowanych odpowiedzi pozwala uniknąć ponoszenia niepotrzebnych kosztów. Używa OpenAIMockResponsePlugin lokalnego modelu językowego do symulowania odpowiedzi z interfejsu API OpenAI.

Przed rozpoczęciem

Aby symulować odpowiedzi interfejsu API OpenAI przy użyciu Dev Proxy, na komputerze musi być zainstalowany obsługiwany klient modelu językowego .

Domyślnie Dev Proxy używa modelu językowego llama3.2 działającego w usłudze Ollama. Aby użyć innego klienta lub modelu, zaktualizuj ustawienia modelu językowego w pliku konfiguracji serwera proxy deweloperów.

Konfigurowanie serwera proxy deweloperskiego w celu symulowania odpowiedzi interfejsu API openAI

Napiwek

Kroki opisane w tym samouczku są dostępne w gotowej do użycia konfiguracji Dev Proxy. Aby użyć ustawienia wstępnego, w wierszu polecenia uruchom polecenie devproxy preset get simulate-openaii postępuj zgodnie z instrukcjami.

Aby symulować odpowiedzi API OpenAI przy użyciu serwera proxy deweloperskiego, należy włączyć element OpenAIMockResponsePlugin w pliku devproxyrc.json.

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v0.29.2/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

Następnie skonfiguruj proxy deweloperski, aby przechwytywał żądania do interfejsu API OpenAI. OpenAI zaleca używania punktu końcowego https://api.openai.com/v1/chat/completions, który umożliwia korzystanie z najnowszych modeli i funkcji.

{
  // [...] trimmed for brevity
  "urlsToWatch": [
    "https://api.openai.com/v1/chat/completions"
  ]
}

Na koniec skonfiguruj serwer proxy deweloperów, aby używał lokalnego modelu językowego.

{
  // [...] trimmed for brevity
  "languageModel": {
    "enabled": true
  }
}

Pełny plik konfiguracji wygląda następująco.

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v0.29.2/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ],
  "urlsToWatch": [
    "https://api.openai.com/v1/chat/completions"
  ],
  "languageModel": {
    "enabled": true
  }
}

Symulowanie odpowiedzi API OpenAI

Zakładając domyślną konfigurację, uruchom Ollamę z modelem językowym llama3.2. W wierszu polecenia uruchom polecenie ollama run llama3.2.

Następnie uruchom Dev Proxy. Jeśli używasz ustawienia wstępnego, uruchom polecenie devproxy -c "~appFolder/presets/simulate-openai/simulate-openai.json. Jeśli używasz niestandardowego pliku konfiguracji o nazwie devproxyrc.json, przechowywanego w bieżącym katalogu roboczym, uruchom polecenie devproxy. Dev Proxy sprawdza, czy może uzyskać dostęp do modelu językowego w Ollama i potwierdza, że jest gotowy do symulowania odpowiedzi interfejsu API OpenAI.

 info    OpenAIMockResponsePlugin: Checking language model availability...
 info    Listening on 127.0.0.1:8000...

Hotkeys: issue (w)eb request, (r)ecord, (s)top recording, (c)lear screen
Press CTRL+C to stop Dev Proxy

Uruchom aplikację i wysyłaj żądania do interfejsu API OpenAI. Serwer proxy dewelopera przechwytuje żądania i symuluje odpowiedzi przy użyciu lokalnego modelu językowego.