GetCompletionsOptions interface

Paket:

@azure/openai

Informasi konfigurasi untuk permintaan penyelesaian. Penyelesaian mendukung berbagai tugas dan menghasilkan teks yang berlanjut dari atau "menyelesaikan" data prompt yang disediakan.

Extends

OperationOptions

Properti

bestOf	Nilai yang mengontrol berapa banyak penyelesaian yang akan dihasilkan secara internal sebelum rumusan respons. Ketika digunakan bersama dengan n, best_of mengontrol jumlah penyelesaian kandidat dan harus lebih besar dari n. Karena pengaturan ini dapat menghasilkan banyak penyelesaian, pengaturan ini dapat dengan cepat mengonsumsi kuota token Anda. Gunakan dengan hati-hati dan pastikan pengaturan yang wajar untuk max_tokens dan berhenti.
echo	Nilai yang menentukan apakah respons penyelesaian harus menyertakan perintah input sebagai awalan untuk output yang dihasilkan.
frequencyPenalty	Nilai yang memengaruhi probabilitas token yang dihasilkan muncul berdasarkan frekuensi kumulatifnya dalam teks yang dihasilkan. Nilai positif akan membuat token lebih kecil kemungkinannya muncul saat frekuensinya meningkat dan mengurangi kemungkinan model mengulangi pernyataan yang sama secara verbatim.
logitBias	Peta antara ID token GPT dan skor bias yang memengaruhi probabilitas token tertentu yang muncul dalam respons penyelesaian. ID token dihitung melalui alat tokenizer eksternal, sementara skor bias berada di kisaran -100 hingga 100 dengan nilai minimum dan maksimum yang sesuai dengan larangan penuh atau pilihan eksklusif token, masing-masing. Perilaku yang tepat dari skor bias tertentu bervariasi menurut model.
logprobs	Nilai yang mengontrol emisi probabilitas log untuk jumlah token yang disediakan yang kemungkinan besar dalam respons penyelesaian.
maxTokens	Jumlah maksimum token yang akan dihasilkan.
n	Jumlah pilihan penyelesaian yang harus dihasilkan per permintaan yang disediakan sebagai bagian dari respons penyelesaian keseluruhan. Karena pengaturan ini dapat menghasilkan banyak penyelesaian, pengaturan ini dapat dengan cepat mengonsumsi kuota token Anda. Gunakan dengan hati-hati dan pastikan pengaturan yang wajar untuk max_tokens dan berhenti.
presencePenalty	Nilai yang memengaruhi probabilitas token yang dihasilkan muncul berdasarkan kehadirannya yang ada dalam teks yang dihasilkan. Nilai positif akan membuat token lebih kecil kemungkinannya muncul ketika sudah ada dan meningkatkan kemungkinan model untuk menghasilkan topik baru.
stop	Kumpulan urutan tekstual yang akan mengakhiri pembuatan penyelesaian.
temperature	Suhu pengambilan sampel untuk digunakan yang mengontrol kreativitas yang jelas dari penyelesaian yang dihasilkan. Nilai yang lebih tinggi akan membuat output lebih acak sementara nilai yang lebih rendah akan membuat hasil lebih fokus dan deterministik. Tidak disarankan untuk memodifikasi suhu dan top_p untuk permintaan penyelesaian yang sama karena interaksi kedua pengaturan ini sulit diprediksi.
topP	Alternatif untuk pengambilan sampel dengan suhu yang disebut pengambilan sampel inti. Nilai ini menyebabkan model mempertimbangkan hasil token dengan massa probabilitas yang disediakan. Sebagai contoh, nilai 0,15 hanya akan menyebabkan token yang terdiri dari 15% massa probabilitas teratas yang dipertimbangkan. Tidak disarankan untuk memodifikasi suhu dan top_p untuk permintaan penyelesaian yang sama karena interaksi kedua pengaturan ini sulit diprediksi.
user	Pengidentifikasi untuk pemanggil atau pengguna akhir operasi. Ini dapat digunakan untuk tujuan pelacakan atau pembatasan tarif.

Properti yang Diwariskan

abortSignal	Sinyal yang dapat digunakan untuk membatalkan permintaan.
onResponse	Fungsi yang akan dipanggil setiap kali respons diterima dari server saat melakukan operasi yang diminta. Dapat dipanggil beberapa kali.
requestOptions	Opsi yang digunakan saat membuat dan mengirim permintaan HTTP untuk operasi ini.
tracingOptions	Opsi yang digunakan saat pelacakan diaktifkan.

Detail Properti

bestOf

Nilai yang mengontrol berapa banyak penyelesaian yang akan dihasilkan secara internal sebelum rumusan respons. Ketika digunakan bersama dengan n, best_of mengontrol jumlah penyelesaian kandidat dan harus lebih besar dari n. Karena pengaturan ini dapat menghasilkan banyak penyelesaian, pengaturan ini dapat dengan cepat mengonsumsi kuota token Anda. Gunakan dengan hati-hati dan pastikan pengaturan yang wajar untuk max_tokens dan berhenti.

bestOf?: number

Nilai Properti

number

echo

Nilai yang menentukan apakah respons penyelesaian harus menyertakan perintah input sebagai awalan untuk output yang dihasilkan.

echo?: boolean

Nilai Properti

boolean

frequencyPenalty

Nilai yang memengaruhi probabilitas token yang dihasilkan muncul berdasarkan frekuensi kumulatifnya dalam teks yang dihasilkan. Nilai positif akan membuat token lebih kecil kemungkinannya muncul saat frekuensinya meningkat dan mengurangi kemungkinan model mengulangi pernyataan yang sama secara verbatim.

frequencyPenalty?: number

Nilai Properti

number

logitBias

Peta antara ID token GPT dan skor bias yang memengaruhi probabilitas token tertentu yang muncul dalam respons penyelesaian. ID token dihitung melalui alat tokenizer eksternal, sementara skor bias berada di kisaran -100 hingga 100 dengan nilai minimum dan maksimum yang sesuai dengan larangan penuh atau pilihan eksklusif token, masing-masing. Perilaku yang tepat dari skor bias tertentu bervariasi menurut model.

logitBias?: Record<string, number>

Nilai Properti

Record<string, number>

logprobs

Nilai yang mengontrol emisi probabilitas log untuk jumlah token yang disediakan yang kemungkinan besar dalam respons penyelesaian.

logprobs?: number

Nilai Properti

number

maxTokens

Jumlah maksimum token yang akan dihasilkan.

maxTokens?: number

Nilai Properti

number

n

Jumlah pilihan penyelesaian yang harus dihasilkan per permintaan yang disediakan sebagai bagian dari respons penyelesaian keseluruhan. Karena pengaturan ini dapat menghasilkan banyak penyelesaian, pengaturan ini dapat dengan cepat mengonsumsi kuota token Anda. Gunakan dengan hati-hati dan pastikan pengaturan yang wajar untuk max_tokens dan berhenti.

n?: number

Nilai Properti

number

presencePenalty

Nilai yang memengaruhi probabilitas token yang dihasilkan muncul berdasarkan kehadirannya yang ada dalam teks yang dihasilkan. Nilai positif akan membuat token lebih kecil kemungkinannya muncul ketika sudah ada dan meningkatkan kemungkinan model untuk menghasilkan topik baru.

presencePenalty?: number

Nilai Properti

number

stop

Kumpulan urutan tekstual yang akan mengakhiri pembuatan penyelesaian.

stop?: string[]

Nilai Properti

string[]

temperature

Suhu pengambilan sampel untuk digunakan yang mengontrol kreativitas yang jelas dari penyelesaian yang dihasilkan. Nilai yang lebih tinggi akan membuat output lebih acak sementara nilai yang lebih rendah akan membuat hasil lebih fokus dan deterministik. Tidak disarankan untuk memodifikasi suhu dan top_p untuk permintaan penyelesaian yang sama karena interaksi kedua pengaturan ini sulit diprediksi.

temperature?: number

Nilai Properti

number

topP

Alternatif untuk pengambilan sampel dengan suhu yang disebut pengambilan sampel inti. Nilai ini menyebabkan model mempertimbangkan hasil token dengan massa probabilitas yang disediakan. Sebagai contoh, nilai 0,15 hanya akan menyebabkan token yang terdiri dari 15% massa probabilitas teratas yang dipertimbangkan. Tidak disarankan untuk memodifikasi suhu dan top_p untuk permintaan penyelesaian yang sama karena interaksi kedua pengaturan ini sulit diprediksi.

topP?: number

Nilai Properti

number

user

Pengidentifikasi untuk pemanggil atau pengguna akhir operasi. Ini dapat digunakan untuk tujuan pelacakan atau pembatasan tarif.

user?: string

Nilai Properti

string

Detail Properti yang Diwariskan

abortSignal

Sinyal yang dapat digunakan untuk membatalkan permintaan.

abortSignal?: AbortSignalLike

Nilai Properti

AbortSignalLike

Diwarisi Dari OperationOptions.abortSignal

onResponse

Fungsi yang akan dipanggil setiap kali respons diterima dari server saat melakukan operasi yang diminta. Dapat dipanggil beberapa kali.

onResponse?: RawResponseCallback

Nilai Properti

RawResponseCallback

Diwarisi Dari OperationOptions.onResponse

requestOptions

Opsi yang digunakan saat membuat dan mengirim permintaan HTTP untuk operasi ini.

requestOptions?: OperationRequestOptions

Nilai Properti

OperationRequestOptions

Diwarisi Dari OperationOptions.requestOptions

tracingOptions

Opsi yang digunakan saat pelacakan diaktifkan.

tracingOptions?: OperationTracingOptions

Nilai Properti

OperationTracingOptions

Diwarisi Dari OperationOptions.tracingOptions