OpenAIMockResponsePlugin

Mensimulasikan respons dari Azure OpenAI dan OpenAI menggunakan model bahasa lokal.

Contoh konfigurasi

{
  "$schema": "https://raw.githubusercontent.com/dotnet/dev-proxy/main/schemas/v2.2.0/rc.schema.json",
  "plugins": [
    {
      "name": "OpenAIMockResponsePlugin",
      "enabled": true,
      "pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
    }
  ]
}

Properti konfigurasi

Tidak

Opsi baris Perintah

Tidak

Keterangan

Plugin OpenAIMockResponsePlugin mensimulasikan respons dari Azure OpenAI dan OpenAI menggunakan model bahasa lokal. Menggunakan plugin ini memungkinkan Anda untuk meniru menggunakan model bahasa di aplikasi Anda tanpa menyambungkan ke layanan OpenAI atau Azure OpenAI dan menimbulkan biaya.

Plugin menggunakan konfigurasi model bahasa Dev Proxy untuk berkomunikasi dengan model bahasa lokal. Untuk menggunakan plugin ini, konfigurasikan Dev Proxy untuk menggunakan model bahasa lokal.

Penting

Akurasi respons yang dihasilkan oleh plugin tergantung pada model bahasa lokal yang Anda gunakan. Sebelum menyebarkan aplikasi ke produksi, pastikan untuk mengujinya dengan model bahasa yang Anda rencanakan untuk digunakan dalam produksi.

Plugin OpenAIMockResponsePlugin mendukung titik akhir OpenAI API berikut:

• Penyelesaian Obrolan (/v1/chat/completions) — menggunakan messages array dan mengembalikan choices dengan prompt_tokens/completion_tokens bidang penggunaan
• Responses API (/v1/responses) — menggunakan input array dan menampilkan output dengan input_tokens/output_tokens bidang penggunaan

Plugin tidak mendukung titik akhir OpenAI API lainnya.

Langkah selanjutnya

Menyimulasikan Azure OpenAI API