OpenAIMockResponsePlugin

ローカル言語モデルを使用して、Azure OpenAI と OpenAI からの応答をシミュレートします。

構成の例

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.0.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

構成プロパティ

なし

コマンドライン オプション

なし

解説

OpenAIMockResponsePlugin プラグインは、ローカル言語モデルを使用して Azure OpenAI と OpenAI からの応答をシミュレートします。 このプラグインを使用すると、OpenAI または Azure OpenAI サービスに接続してコストを発生させることなく、アプリで言語モデルを使用してエミュレートできます。

プラグインは、Dev Proxy language モデル構成 を使用してローカル言語モデルと通信します。 このプラグインを使用するには、ローカル言語モデルを使用するように開発プロキシを構成します。

重要

プラグインによって生成される応答の精度は、使用するローカル言語モデルによって異なります。 運用環境にアプリをデプロイする前に、運用環境で使用する予定の言語モデルでテストしてください。

OpenAIMockResponsePlugin プラグインは、入力候補とチャットの完了をシミュレートします。 プラグインは、他の OpenAI API エンドポイントをサポートしていません。

次のステップ

Azure OpenAI API をシミュレートする