OpenAIMockResponsePlugin

Simula respostas do Azure OpenAI e OpenAI usando um modelo de idioma local.

Exemplo de configuração

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.0.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

Propriedades de configuração

Nenhum

Opções de linha de comando

Nenhum

Comentários

O OpenAIMockResponsePlugin plug-in simula respostas do Azure OpenAI e do OpenAI usando um modelo de idioma local. O uso desse plug-in permite que você emule usando um modelo de linguagem em seu aplicativo sem se conectar ao serviço OpenAI ou Azure OpenAI e incorrer em custos.

O plug-in usa a configuração do modelo de linguagem Dev Proxy para se comunicar com um modelo de idioma local. Para usar esse plug-in, configure o Dev Proxy para usar um modelo de idioma local.

Importante

A precisão das respostas geradas pelo plug-in depende do modelo de idioma local que você usa. Antes de implantar seu aplicativo em produção, certifique-se de testá-lo com o modelo de linguagem que você planeja usar na produção.

O OpenAIMockResponsePlugin plug-in simula conclusões e conclusões de bate-papo. O plug-in não oferece suporte a outros endpoints da API OpenAI.

Próxima etapa

Simular a API do OpenAI do Azure