GetCompletionsOptions interface

Paket:

@azure/openai

Tamamlama isteği için yapılandırma bilgileri. Tamamlamalar çok çeşitli görevleri destekler ve sağlanan istem verilerinden devam eden veya "tamamlanan" metinler oluşturur.

Extends

OperationOptions

Özellikler

bestOf	Yanıt formülasyonundan önce dahili olarak kaç tamamlama oluşturulacağını denetleyecek bir değer. n ile birlikte kullanıldığında, best_of aday tamamlamalarının sayısını denetler ve n'den büyük olmalıdır. Bu ayar birçok tamamlama oluşturabileceğinden belirteç kotanızı hızla tüketebilir. Dikkatli kullanın ve max_tokens ve durdurmak için makul ayarlar sağlayın.
echo	Tamamlama yanıtlarının, oluşturulan çıktılarının ön ekleri olarak giriş istemleri içermesi gerekip gerekmediğini belirten bir değer.
frequencyPenalty	Oluşturulan belirteçlerin, oluşturulan metindeki kümülatif sıklıklarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, sıklıkları arttıkça belirteçlerin görünme olasılığını azaltır ve modelin aynı deyimleri tekrarlama olasılığını azaltır.
logitBias	GPT belirteç kimlikleri ile sapma puanları arasında, belirli belirteçlerin tamamlanma yanıtında görünme olasılığını etkileyen bir harita. Belirteç kimlikleri dış belirteç oluşturucu araçları aracılığıyla hesaplanırken, sapma puanları sırasıyla tam yasaklama veya özel belirteç seçimine karşılık gelen minimum ve maksimum değerlerle -100 ila 100 aralığında yer alır. Belirli bir sapma puanının tam davranışı modele göre değişir.
logprobs	Tamamlanma yanıtı içinde sağlanan en olası belirteç sayısı için günlük olasılıklarının emisyonunu denetleen bir değer.
maxTokens	Oluşturulacak en fazla belirteç sayısı.
n	Genel tamamlama yanıtının bir parçası olarak sağlanan komut istemi başına oluşturulması gereken tamamlama seçenekleri sayısı. Bu ayar birçok tamamlama oluşturabileceğinden belirteç kotanızı hızla tüketebilir. Dikkatli kullanın ve max_tokens ve durdurmak için makul ayarlar sağlayın.
presencePenalty	Oluşturulan belirteçlerin, oluşturulan metindeki mevcut durumlarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, belirteçlerin mevcut olduğunda görünme olasılığını düşürür ve modelin yeni konuların çıkış yapma olasılığını artırır.
stop	Tamamlamaların oluşturulmasını sona erdirecek metin dizileri koleksiyonu.
temperature	Kullanılan örnekleme sıcaklığı, oluşturulan tamamlamaların görünür yaratıcılığını denetler. Yüksek değerler çıkışı daha rastgele hale getirirken, düşük değerler sonuçları daha odaklanmış ve belirlenimci hale getirir. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve top_p değiştirilmesi önerilmez.
topP	Çekirdek örneklemesi olarak adlandırılan sıcaklıkla örneklemeye alternatif olarak. Bu değer, modelin sağlanan olasılık kütlesine sahip belirteçlerin sonuçlarını dikkate almasına neden olur. Örneğin, 0,15 değeri yalnızca olasılık kütlesinin ilk %15'ini oluşturan belirteçlerin dikkate alınmasına neden olur. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve top_p değiştirilmesi önerilmez.
user	İşlemi çağıranın veya son kullanıcının tanımlayıcısı. Bu, izleme veya hız sınırlama amacıyla kullanılabilir.

Devralınan Özellikler

abortSignal	İstekleri durdurmak için kullanılabilecek sinyal.
onResponse	İstenen işlem gerçekleştirilirken sunucudan her yanıt alındığında çağrılacak bir işlev. Birden çok kez çağrılabilir.
requestOptions	Bu işlem için HTTP istekleri oluştururken ve gönderirken kullanılan seçenekler.
tracingOptions	İzleme etkinleştirildiğinde kullanılan seçenekler.

Özellik Ayrıntıları

bestOf

Yanıt formülasyonundan önce dahili olarak kaç tamamlama oluşturulacağını denetleyecek bir değer. n ile birlikte kullanıldığında, best_of aday tamamlamalarının sayısını denetler ve n'den büyük olmalıdır. Bu ayar birçok tamamlama oluşturabileceğinden belirteç kotanızı hızla tüketebilir. Dikkatli kullanın ve max_tokens ve durdurmak için makul ayarlar sağlayın.

bestOf?: number

Özellik Değeri

number

echo

Tamamlama yanıtlarının, oluşturulan çıktılarının ön ekleri olarak giriş istemleri içermesi gerekip gerekmediğini belirten bir değer.

echo?: boolean

Özellik Değeri

boolean

frequencyPenalty

Oluşturulan belirteçlerin, oluşturulan metindeki kümülatif sıklıklarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, sıklıkları arttıkça belirteçlerin görünme olasılığını azaltır ve modelin aynı deyimleri tekrarlama olasılığını azaltır.

frequencyPenalty?: number

Özellik Değeri

number

logitBias

GPT belirteç kimlikleri ile sapma puanları arasında, belirli belirteçlerin tamamlanma yanıtında görünme olasılığını etkileyen bir harita. Belirteç kimlikleri dış belirteç oluşturucu araçları aracılığıyla hesaplanırken, sapma puanları sırasıyla tam yasaklama veya özel belirteç seçimine karşılık gelen minimum ve maksimum değerlerle -100 ila 100 aralığında yer alır. Belirli bir sapma puanının tam davranışı modele göre değişir.

logitBias?: Record<string, number>

Özellik Değeri

Record<string, number>

logprobs

Tamamlanma yanıtı içinde sağlanan en olası belirteç sayısı için günlük olasılıklarının emisyonunu denetleen bir değer.

logprobs?: number

Özellik Değeri

number

maxTokens

Oluşturulacak en fazla belirteç sayısı.

maxTokens?: number

Özellik Değeri

number

n

Genel tamamlama yanıtının bir parçası olarak sağlanan komut istemi başına oluşturulması gereken tamamlama seçenekleri sayısı. Bu ayar birçok tamamlama oluşturabileceğinden belirteç kotanızı hızla tüketebilir. Dikkatli kullanın ve max_tokens ve durdurmak için makul ayarlar sağlayın.

n?: number

Özellik Değeri

number

presencePenalty

Oluşturulan belirteçlerin, oluşturulan metindeki mevcut durumlarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, belirteçlerin mevcut olduğunda görünme olasılığını düşürür ve modelin yeni konuların çıkış yapma olasılığını artırır.

presencePenalty?: number

Özellik Değeri

number

stop

Tamamlamaların oluşturulmasını sona erdirecek metin dizileri koleksiyonu.

stop?: string[]

Özellik Değeri

string[]

temperature

Kullanılan örnekleme sıcaklığı, oluşturulan tamamlamaların görünür yaratıcılığını denetler. Yüksek değerler çıkışı daha rastgele hale getirirken, düşük değerler sonuçları daha odaklanmış ve belirlenimci hale getirir. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve top_p değiştirilmesi önerilmez.

temperature?: number

Özellik Değeri

number

topP

Çekirdek örneklemesi olarak adlandırılan sıcaklıkla örneklemeye alternatif olarak. Bu değer, modelin sağlanan olasılık kütlesine sahip belirteçlerin sonuçlarını dikkate almasına neden olur. Örneğin, 0,15 değeri yalnızca olasılık kütlesinin ilk %15'ini oluşturan belirteçlerin dikkate alınmasına neden olur. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve top_p değiştirilmesi önerilmez.

topP?: number

Özellik Değeri

number

user

İşlemi çağıranın veya son kullanıcının tanımlayıcısı. Bu, izleme veya hız sınırlama amacıyla kullanılabilir.

user?: string

Özellik Değeri

string

Devralınan Özellik Detayları

abortSignal

İstekleri durdurmak için kullanılabilecek sinyal.

abortSignal?: AbortSignalLike

Özellik Değeri

AbortSignalLike

Devralınan OperationOptions.abortSignal

onResponse

İstenen işlem gerçekleştirilirken sunucudan her yanıt alındığında çağrılacak bir işlev. Birden çok kez çağrılabilir.

onResponse?: RawResponseCallback

Özellik Değeri

RawResponseCallback

Devralınan OperationOptions.onResponse

requestOptions

Bu işlem için HTTP istekleri oluştururken ve gönderirken kullanılan seçenekler.

requestOptions?: OperationRequestOptions

Özellik Değeri

OperationRequestOptions

Devralınan OperationOptions.requestOptions

tracingOptions

İzleme etkinleştirildiğinde kullanılan seçenekler.

tracingOptions?: OperationTracingOptions

Özellik Değeri

OperationTracingOptions

Devralınan OperationOptions.tracingOptions