OpenAIMockResponsePlugin

Simuliert Antworten von Azure OpenAI und OpenAI mithilfe eines lokalen Sprachmodells.

Definition der Plug-In-Instanz

{
  "name": "OpenAIMockResponsePlugin",
  "enabled": true,
  "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
}

Konfigurationsbeispiel

Keine

Konfigurationseigenschaften

Keine

Befehlszeilenoptionen

Keine

Hinweise

Das OpenAIMockResponsePlugin Plug-In simuliert Antworten von Azure OpenAI und OpenAI mithilfe eines lokalen Sprachmodells. Mithilfe dieses Plug-Ins können Sie ein Sprachmodell in Ihrer App emulieren, ohne eine Verbindung mit dem OpenAI- oder Azure OpenAI-Dienst herzustellen und kostenaufwendigen zu müssen.

Das Plug-In verwendet die Dev Proxy-Sprachmodellkonfiguration für die Kommunikation mit einem lokalen Sprachmodell. Um dieses Plug-In zu verwenden, konfigurieren Sie Dev Proxy für die Verwendung eines lokalen Sprachmodells.

Wichtig

Die Genauigkeit der vom Plug-In generierten Antworten hängt vom von Ihnen verwendeten lokalen Sprachmodell ab. Bevor Sie Ihre App in der Produktion bereitstellen, testen Sie sie unbedingt mit dem Sprachmodell, das Sie in der Produktion verwenden möchten.

Das OpenAIMockResponsePlugin Plug-In simuliert Abschlusse und Chatabschlusse. Das Plug-In unterstützt keine anderen OpenAI-API-Endpunkte.

Nächster Schritt

Simulieren der Azure OpenAI-API