Плагин OpenAIMockResponsePlugin

Имитирует ответы из Azure OpenAI и OpenAI с помощью локальной языковой модели.

Пример конфигурации

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.0.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

Свойства конфигурации

нет

Параметры командной строки

нет

Замечания

Подключаемый OpenAIMockResponsePlugin модуль имитирует ответы из Azure OpenAI и OpenAI с помощью локальной языковой модели. С помощью этого подключаемого модуля можно эмулировать с помощью языковой модели в приложении, не подключаясь к службе OpenAI или Службе OpenAI Azure и не выполняя затраты.

Подключаемый модуль использует конфигурацию языковой модели Dev Proxy для взаимодействия с локальной языковой моделью. Чтобы использовать этот подключаемый модуль, настройте прокси-сервер разработки для использования локальной языковой модели.

Внимание

Точность ответов, создаваемых подключаемым модулем, зависит от используемой локальной языковой модели. Перед развертыванием приложения в рабочей среде обязательно протестируйте его с помощью языковой модели, которую планируется использовать в рабочей среде.

Подключаемый OpenAIMockResponsePlugin модуль имитирует завершения и завершения чата. Подключаемый модуль не поддерживает другие конечные точки API OpenAI.

Следующий шаг

Имитация API OpenAI Azure