GetChatCompletionsOptions interface

Paket:

@azure/openai

Bu modül, karşılık gelen oluşturulan modellerle yan yana yaşamak istediğimiz modelleri içerir. Bu, oluşturulan modellerden farklı adlara/türlere sahip müşteriye yönelik modeller sağlamak için kullanışlıdır.

Extends

OperationOptions

Özellikler

azureExtensionOptions	Bunları kullanan Azure OpenAI sohbet uzantıları için yapılandırma girdileri. Bu ek belirtim yalnızca Azure OpenAI ile uyumludur.
frequencyPenalty	Oluşturulan belirteçlerin, oluşturulan metindeki kümülatif sıklıklarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, sıklıkları arttıkça belirteçlerin görünme olasılığını azaltır ve modelin aynı deyimleri tekrarlama olasılığını azaltır.
functionCall	Modelin işlev çağrılarına nasıl yanıt verdiğini denetler. "none", modelin bir işlevi çağırmadığı ve son kullanıcıya yanıt verdiği anlamına gelir. "auto", modelin son kullanıcı veya işlev çağırma arasında seçim yapabileceğiniz anlamına gelir. aracılığıyla {"name": "my_function"} belirli bir işlevin belirtilmesi, modeli bu işlevi çağırmaya zorlar. Hiçbir işlev mevcut olmadığında "hiçbiri" varsayılan değerdir. İşlevler varsa varsayılan değer "auto" olur.
functions	Modelin JSON girişleri oluşturabileceği işlevlerin listesi.
logitBias	GPT belirteç kimlikleri ile sapma puanları arasında, belirli belirteçlerin tamamlanma yanıtında görünme olasılığını etkileyen bir harita. Belirteç kimlikleri dış belirteç oluşturucu araçları aracılığıyla hesaplanırken, sapma puanları sırasıyla tam yasaklama veya özel belirteç seçimine karşılık gelen minimum ve maksimum değerlerle -100 ila 100 aralığında yer alır. Belirli bir sapma puanının tam davranışı modele göre değişir.
maxTokens	Oluşturulacak en fazla belirteç sayısı.
n	Sohbet tamamlama yanıtı için oluşturulması gereken sohbet tamamlama seçenekleri sayısı. Bu ayar birçok tamamlama oluşturabileceğinden belirteç kotanızı hızla tüketebilir. Dikkatli kullanın ve maxTokens için makul ayarları sağlayın ve durdurun.
presencePenalty	Oluşturulan belirteçlerin, oluşturulan metindeki mevcut durumlarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, belirteçlerin mevcut olduğunda görünme olasılığını düşürür ve modelin yeni konuların çıkış yapma olasılığını artırır.
responseFormat	Modelin çıkış yapması gereken biçimi belirten bir nesne. JSON modunu etkinleştirmek için kullanılır.
seed	Belirtilirse sistem, aynı tohuma ve parametrelere sahip yinelenen isteklerin aynı sonucu döndürmesi için determinist olarak örneklemek için en iyi çabayı gösterir. Determinizm garanti değildir ve arka uçtaki değişiklikleri izlemek için system_fingerprint yanıt parametresine başvurmanız gerekir."
stop	Tamamlamaların oluşturulmasını sona erdirecek metin dizileri koleksiyonu.
temperature	Kullanılan örnekleme sıcaklığı, oluşturulan tamamlamaların görünür yaratıcılığını denetler. Yüksek değerler çıkışı daha rastgele hale getirirken, düşük değerler sonuçları daha odaklanmış ve belirlenimci hale getirir. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve topP'nin değiştirilmesi önerilmez.
toolChoice	Belirtilirse model, sohbet tamamlama yanıtı için sağlanan araçlardan hangisini kullanabileceğini yapılandıracaktır.
tools	Arayan tanımlı işlevler de dahil olmak üzere sohbet tamamlama isteklerinin kullanabileceği kullanılabilir araç tanımları.
topP	Çekirdek örneklemesi olarak adlandırılan sıcaklıkla örneklemeye alternatif olarak. Bu değer, modelin sağlanan olasılık kütlesine sahip belirteçlerin sonuçlarını dikkate almasına neden olur. Örneğin, 0,15 değeri yalnızca olasılık kütlesinin ilk %15'inden oluşan belirteçlerin dikkate alınmasına neden olur. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve topP'nin değiştirilmesi önerilmez.
user	İşlemi çağıranın veya son kullanıcının tanımlayıcısı. Bu, izleme veya hız sınırlama amacıyla kullanılabilir.

Devralınan Özellikler

abortSignal	İstekleri durdurmak için kullanılabilecek sinyal.
onResponse	İstenen işlem gerçekleştirilirken sunucudan her yanıt alındığında çağrılacak bir işlev. Birden çok kez çağrılabilir.
requestOptions	Bu işlem için HTTP istekleri oluştururken ve gönderirken kullanılan seçenekler.
tracingOptions	İzleme etkinleştirildiğinde kullanılan seçenekler.

Özellik Ayrıntıları

azureExtensionOptions

Bunları kullanan Azure OpenAI sohbet uzantıları için yapılandırma girdileri. Bu ek belirtim yalnızca Azure OpenAI ile uyumludur.

azureExtensionOptions?: AzureExtensionsOptions

Özellik Değeri

AzureExtensionsOptions

frequencyPenalty

Oluşturulan belirteçlerin, oluşturulan metindeki kümülatif sıklıklarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, sıklıkları arttıkça belirteçlerin görünme olasılığını azaltır ve modelin aynı deyimleri tekrarlama olasılığını azaltır.

frequencyPenalty?: number

Özellik Değeri

number

functionCall

Modelin işlev çağrılarına nasıl yanıt verdiğini denetler. "none", modelin bir işlevi çağırmadığı ve son kullanıcıya yanıt verdiği anlamına gelir. "auto", modelin son kullanıcı veya işlev çağırma arasında seçim yapabileceğiniz anlamına gelir. aracılığıyla {"name": "my_function"} belirli bir işlevin belirtilmesi, modeli bu işlevi çağırmaya zorlar. Hiçbir işlev mevcut olmadığında "hiçbiri" varsayılan değerdir. İşlevler varsa varsayılan değer "auto" olur.

functionCall?: string | FunctionName

Özellik Değeri

string | FunctionName

functions

Modelin JSON girişleri oluşturabileceği işlevlerin listesi.

functions?: FunctionDefinition[]

Özellik Değeri

FunctionDefinition[]

logitBias

GPT belirteç kimlikleri ile sapma puanları arasında, belirli belirteçlerin tamamlanma yanıtında görünme olasılığını etkileyen bir harita. Belirteç kimlikleri dış belirteç oluşturucu araçları aracılığıyla hesaplanırken, sapma puanları sırasıyla tam yasaklama veya özel belirteç seçimine karşılık gelen minimum ve maksimum değerlerle -100 ila 100 aralığında yer alır. Belirli bir sapma puanının tam davranışı modele göre değişir.

logitBias?: Record<string, number>

Özellik Değeri

Record<string, number>

maxTokens

Oluşturulacak en fazla belirteç sayısı.

maxTokens?: number

Özellik Değeri

number

n

Sohbet tamamlama yanıtı için oluşturulması gereken sohbet tamamlama seçenekleri sayısı. Bu ayar birçok tamamlama oluşturabileceğinden belirteç kotanızı hızla tüketebilir. Dikkatli kullanın ve maxTokens için makul ayarları sağlayın ve durdurun.

n?: number

Özellik Değeri

number

presencePenalty

Oluşturulan belirteçlerin, oluşturulan metindeki mevcut durumlarına göre görünme olasılığını etkileyen bir değer. Pozitif değerler, belirteçlerin mevcut olduğunda görünme olasılığını düşürür ve modelin yeni konuların çıkış yapma olasılığını artırır.

presencePenalty?: number

Özellik Değeri

number

responseFormat

Modelin çıkış yapması gereken biçimi belirten bir nesne. JSON modunu etkinleştirmek için kullanılır.

responseFormat?: ChatCompletionsResponseFormat

Özellik Değeri

ChatCompletionsResponseFormat

seed

Belirtilirse sistem, aynı tohuma ve parametrelere sahip yinelenen isteklerin aynı sonucu döndürmesi için determinist olarak örneklemek için en iyi çabayı gösterir. Determinizm garanti değildir ve arka uçtaki değişiklikleri izlemek için system_fingerprint yanıt parametresine başvurmanız gerekir."

seed?: number

Özellik Değeri

number

stop

Tamamlamaların oluşturulmasını sona erdirecek metin dizileri koleksiyonu.

stop?: string[]

Özellik Değeri

string[]

temperature

Kullanılan örnekleme sıcaklığı, oluşturulan tamamlamaların görünür yaratıcılığını denetler. Yüksek değerler çıkışı daha rastgele hale getirirken, düşük değerler sonuçları daha odaklanmış ve belirlenimci hale getirir. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve topP'nin değiştirilmesi önerilmez.

temperature?: number

Özellik Değeri

number

toolChoice

Belirtilirse model, sohbet tamamlama yanıtı için sağlanan araçlardan hangisini kullanabileceğini yapılandıracaktır.

toolChoice?: ChatCompletionsNamedToolSelectionUnion

Özellik Değeri

ChatCompletionsNamedToolSelectionUnion

tools

Arayan tanımlı işlevler de dahil olmak üzere sohbet tamamlama isteklerinin kullanabileceği kullanılabilir araç tanımları.

tools?: ChatCompletionsToolDefinitionUnion[]

Özellik Değeri

ChatCompletionsToolDefinitionUnion[]

topP

Çekirdek örneklemesi olarak adlandırılan sıcaklıkla örneklemeye alternatif olarak. Bu değer, modelin sağlanan olasılık kütlesine sahip belirteçlerin sonuçlarını dikkate almasına neden olur. Örneğin, 0,15 değeri yalnızca olasılık kütlesinin ilk %15'inden oluşan belirteçlerin dikkate alınmasına neden olur. Bu iki ayarın etkileşimini tahmin etmek zor olduğundan, aynı tamamlama isteği için sıcaklık ve topP'nin değiştirilmesi önerilmez.

topP?: number

Özellik Değeri

number

user

İşlemi çağıranın veya son kullanıcının tanımlayıcısı. Bu, izleme veya hız sınırlama amacıyla kullanılabilir.

user?: string

Özellik Değeri

string

Devralınan Özellik Detayları

abortSignal

İstekleri durdurmak için kullanılabilecek sinyal.

abortSignal?: AbortSignalLike

Özellik Değeri

AbortSignalLike

Devralınan OperationOptions.abortSignal

onResponse

İstenen işlem gerçekleştirilirken sunucudan her yanıt alındığında çağrılacak bir işlev. Birden çok kez çağrılabilir.

onResponse?: RawResponseCallback

Özellik Değeri

RawResponseCallback

Devralınan OperationOptions.onResponse

requestOptions

Bu işlem için HTTP istekleri oluştururken ve gönderirken kullanılan seçenekler.

requestOptions?: OperationRequestOptions

Özellik Değeri

OperationRequestOptions

Devralınan OperationOptions.requestOptions

tracingOptions

İzleme etkinleştirildiğinde kullanılan seçenekler.

tracingOptions?: OperationTracingOptions

Özellik Değeri

OperationTracingOptions

Devralınan OperationOptions.tracingOptions