OpenAIMockResponsePlugin

Simuluje odpovědi z Azure OpenAI a OpenAI pomocí místního jazykového modelu.

Definice instance modulu plug-in

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
}

Příklad konfigurace

Nic

Vlastnosti konfigurace

Nic

Možnosti příkazového řádku

Nic

Poznámky

Modul plug-in OpenAIMockResponsePlugin simuluje odpovědi z Azure OpenAI a OpenAI pomocí místního jazykového modelu. Pomocí tohoto modulu plug-in můžete emulovat pomocí jazykového modelu v aplikaci, aniž byste se připojili ke službě OpenAI nebo Azure OpenAI a účtují se náklady.

Modul plug-in používá konfiguraci jazykového modelu dev Proxy ke komunikaci s místním jazykovým modelem. Pokud chcete tento modul plug-in použít, nakonfigurujte Dev Proxy tak, aby používal místní jazykový model.

Důležité

Přesnost odpovědí generovaných modulem plug-in závisí na místním jazykovém modelu, který používáte. Před nasazením aplikace do produkčního prostředí ji nezapomeňte otestovat pomocí jazykového modelu, který chcete použít v produkčním prostředí.

Modul OpenAIMockResponsePlugin plug-in simuluje dokončení a dokončení chatu. Modul plug-in nepodporuje jiné koncové body rozhraní OpenAI API.

Další krok

Simulace rozhraní API Azure OpenAI