OpenAIMockResponsePlugin

Simulerar svar från Azure OpenAI och OpenAI med hjälp av en lokal språkmodell.

Konfigurationsexempel

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.0.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

Konfigurationsegenskaper

Ingen

Kommandoradsalternativ

Ingen

Kommentarer

Plugin-programmet OpenAIMockResponsePlugin simulerar svar från Azure OpenAI och OpenAI med hjälp av en lokal språkmodell. Med det här plugin-programmet kan du emulera med hjälp av en språkmodell i din app utan att ansluta till OpenAI- eller Azure OpenAI-tjänsten och medföra kostnader.

Plugin-programmet använder språkmodellkonfigurationen dev proxy för att kommunicera med en lokal språkmodell. Om du vill använda det här plugin-programmet konfigurerar du Dev Proxy för att använda en lokal språkmodell.

Viktigt!

Noggrannheten för svaren som genereras av plugin-programmet beror på vilken lokal språkmodell du använder. Innan du distribuerar din app till produktion måste du testa den med den språkmodell som du planerar att använda i produktion.

Plugin-programmet OpenAIMockResponsePlugin simulerar slutföranden och chattavslut. Plugin-programmet stöder inte andra OpenAI API-slutpunkter.

Nästa steg

Simulera Azure OpenAI API