OpenAIMockResponsePlugin

Helyi nyelvi modell használatával szimulálja az Azure OpenAI és az OpenAI válaszait.

Példa konfigurációra

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.1.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

Konfigurációs tulajdonságok

Egyik sem

Parancssori beállítások

Egyik sem

Megjegyzések

A OpenAIMockResponsePlugin beépülő modul helyi nyelvi modell használatával szimulálja az Azure OpenAI és az OpenAI válaszait. Ezzel a beépülő modullal nyelvi modell használatával emulálhat az alkalmazásban anélkül, hogy az OpenAI vagy az Azure OpenAI szolgáltatáshoz csatlakozik, és költségekkel jár.

A beépülő modul a Dev Proxy nyelvi modell konfigurációjával kommunikál egy helyi nyelvi modellel. A beépülő modul használatához konfigurálja a Dev Proxyt egy helyi nyelvi modell használatára.

Fontos

A beépülő modul által generált válaszok pontossága a használt helyi nyelvi modelltől függ. Az alkalmazás éles környezetben való üzembe helyezése előtt mindenképpen tesztelje azt az éles környezetben használni kívánt nyelvi modellel.

A OpenAIMockResponsePlugin beépülő modul a befejezéseket és a csevegés befejezését szimulálja. A beépülő modul nem támogatja a többi OpenAI API-végpontot.

Következő lépés

Az Azure OpenAI API szimulálása