Плагин OpenAIMockResponsePlugin

Имитирует ответы из Azure OpenAI и OpenAI с помощью локальной языковой модели.

Определение экземпляра подключаемого модуля

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
}

Пример конфигурации

нет

Свойства конфигурации

нет

Параметры командной строки

нет

Замечания

Подключаемый OpenAIMockResponsePlugin модуль имитирует ответы из Azure OpenAI и OpenAI с помощью локальной языковой модели. С помощью этого подключаемого модуля можно эмулировать с помощью языковой модели в приложении, не подключаясь к службе OpenAI или Службе OpenAI Azure и не выполняя затраты.

Подключаемый модуль использует конфигурацию языковой модели Dev Proxy для взаимодействия с локальной языковой моделью. Чтобы использовать этот подключаемый модуль, настройте прокси-сервер разработки для использования локальной языковой модели.

Внимание

Точность ответов, создаваемых подключаемым модулем, зависит от используемой локальной языковой модели. Перед развертыванием приложения в рабочей среде обязательно протестируйте его с помощью языковой модели, которую планируется использовать в рабочей среде.

Подключаемый OpenAIMockResponsePlugin модуль имитирует завершения и завершения чата. Подключаемый модуль не поддерживает другие конечные точки API OpenAI.

Следующий шаг

Имитация API OpenAI Azure