Megosztás a következőn keresztül:


OpenAIMockResponsePlugin

Helyi nyelvi modell használatával szimulálja az Azure OpenAI és az OpenAI válaszait.

Képernyőkép egy parancssorról, amelyen a Dev Proxy szimulálja az Azure OpenAI API-nak küldött kérés válaszát.

Beépülő modulpéldány definíciója

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
}

Példa konfigurációra

Egyik sem

Konfigurációs tulajdonságok

Egyik sem

Parancssori beállítások

Egyik sem

Megjegyzések

A OpenAIMockResponsePlugin beépülő modul helyi nyelvi modell használatával szimulálja az Azure OpenAI és az OpenAI válaszait. Ezzel a beépülő modullal nyelvi modell használatával emulálhat az alkalmazásban anélkül, hogy az OpenAI vagy az Azure OpenAI szolgáltatáshoz csatlakozik, és költségekkel jár.

A beépülő modul a Dev Proxy nyelvi modell konfigurációjával kommunikál egy helyi nyelvi modellel. A beépülő modul használatához konfigurálja a Dev Proxyt egy helyi nyelvi modell használatára.

Fontos

A beépülő modul által generált válaszok pontossága a használt helyi nyelvi modelltől függ. Az alkalmazás éles környezetben való üzembe helyezése előtt mindenképpen tesztelje azt az éles környezetben használni kívánt nyelvi modellel.

A OpenAIMockResponsePlugin beépülő modul a befejezéseket és a csevegés befejezését szimulálja. A beépülő modul nem támogatja a többi OpenAI API-végpontot.

Következő lépés