OpenAIMockResponsePlugin

Mensimulasikan respons dari Azure OpenAI dan OpenAI menggunakan model bahasa lokal.

Contoh konfigurasi

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.0.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

Properti konfigurasi

Tidak

Opsi baris Perintah

Tidak

Keterangan

Plugin OpenAIMockResponsePlugin mensimulasikan respons dari Azure OpenAI dan OpenAI menggunakan model bahasa lokal. Menggunakan plugin ini memungkinkan Anda untuk meniru menggunakan model bahasa di aplikasi Anda tanpa menyambungkan ke layanan OpenAI atau Azure OpenAI dan menimbulkan biaya.

Plugin menggunakan konfigurasi model bahasa Dev Proxy untuk berkomunikasi dengan model bahasa lokal. Untuk menggunakan plugin ini, konfigurasikan Dev Proxy untuk menggunakan model bahasa lokal.

Penting

Akurasi respons yang dihasilkan oleh plugin tergantung pada model bahasa lokal yang Anda gunakan. Sebelum menyebarkan aplikasi ke produksi, pastikan untuk mengujinya dengan model bahasa yang Anda rencanakan untuk digunakan dalam produksi.

Plugin OpenAIMockResponsePlugin mensimulasikan penyelesaian dan penyelesaian obrolan. Plugin tidak mendukung titik akhir OpenAI API lainnya.

Langkah selanjutnya

Menyimulasikan Azure OpenAI API