GetCompletionsOptions interface

Пакет:

@azure/openai

Сведения о конфигурации для запроса завершения. Завершения поддерживают широкий спектр задач и создают текст, который продолжается или "завершает" предоставленные данные запроса.

Extends

OperationOptions

Свойства

bestOf	Значение , определяющее, сколько завершений будет создано внутри системы до формирования ответа. При использовании вместе с n best_of управляет количеством потенциальных завершений и должен быть больше n. Так как этот параметр может генерировать множество завершений, он может быстро использовать квоту маркера. Тщательно используйте и обеспечьте разумные параметры для max_tokens и остановки.
echo	Значение типа , указывающее, должны ли ответы завершения включать входные запросы в качестве префиксов для созданных выходных данных.
frequencyPenalty	Значение , которое влияет на вероятность появления созданных маркеров на основе их совокупной частоты в созданном тексте. Положительные значения снижают вероятность появления маркеров по мере увеличения их частоты и снижают вероятность того, что модель будет повторять те же инструкции дословно.
logitBias	Сопоставление идентификаторов маркеров GPT и оценок смещения, которое влияет на вероятность появления определенных маркеров в ответе завершения. Идентификаторы маркеров вычисляются с помощью средств внешнего создателя маркеров, а оценки смещения находятся в диапазоне от -100 до 100 с минимальным и максимальным значениями, соответствующими полному запрету или монопольного выбора маркера соответственно. Точное поведение заданной оценки смещения зависит от модели.
logprobs	Значение , которое управляет выбросом вероятностей журнала для указанного числа наиболее вероятных маркеров в ответе завершения.
maxTokens	Максимальное число маркеров для создания.
n	Количество вариантов завершения, которое должно быть создано для каждого предоставленного запроса в рамках общего ответа на завершение. Так как этот параметр может генерировать множество завершений, он может быстро использовать квоту маркера. Тщательно используйте и обеспечьте разумные параметры для max_tokens и остановки.
presencePenalty	Значение , которое влияет на вероятность появления созданных маркеров на основе их существующего присутствия в созданном тексте. Положительные значения сделают маркеры менее вероятными, если они уже существуют, и повысят вероятность вывода новых разделов в модели.
stop	Коллекция текстовых последовательностей, которые завершат создание завершений.
temperature	Используемая температура выборки, которая управляет очевидной творческой способностью созданных завершений. Более высокие значения делают выходные данные более случайными, а более низкие — более целенаправленные и детерминированные результаты. Не рекомендуется изменять температуру и top_p для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.
topP	Альтернатива выборке с температурой называется выборкой ядра. Это значение заставляет модель учитывать результаты токенов с предоставленной массой вероятности. Например, значение 0,15 приведет к тому, что будут учитываться только маркеры, составляющие 15 % от массы вероятности. Не рекомендуется изменять температуру и top_p для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.
user	Идентификатор вызывающего или конечного пользователя операции. Он может использоваться для отслеживания или ограничения скорости.

Унаследованные свойства

abortSignal	Сигнал, который можно использовать для прерывания запросов.
onResponse	Функция, вызываемая каждый раз при получении ответа от сервера при выполнении запрошенной операции. Может вызываться несколько раз.
requestOptions	Параметры, используемые при создании и отправке HTTP-запросов для этой операции.
tracingOptions	Параметры, используемые при включенной трассировке.

Сведения о свойстве

bestOf

Значение , определяющее, сколько завершений будет создано внутри системы до формирования ответа. При использовании вместе с n best_of управляет количеством потенциальных завершений и должен быть больше n. Так как этот параметр может генерировать множество завершений, он может быстро использовать квоту маркера. Тщательно используйте и обеспечьте разумные параметры для max_tokens и остановки.

bestOf?: number

Значение свойства

number

echo

Значение типа , указывающее, должны ли ответы завершения включать входные запросы в качестве префиксов для созданных выходных данных.

echo?: boolean

Значение свойства

boolean

frequencyPenalty

Значение , которое влияет на вероятность появления созданных маркеров на основе их совокупной частоты в созданном тексте. Положительные значения снижают вероятность появления маркеров по мере увеличения их частоты и снижают вероятность того, что модель будет повторять те же инструкции дословно.

frequencyPenalty?: number

Значение свойства

number

logitBias

Сопоставление идентификаторов маркеров GPT и оценок смещения, которое влияет на вероятность появления определенных маркеров в ответе завершения. Идентификаторы маркеров вычисляются с помощью средств внешнего создателя маркеров, а оценки смещения находятся в диапазоне от -100 до 100 с минимальным и максимальным значениями, соответствующими полному запрету или монопольного выбора маркера соответственно. Точное поведение заданной оценки смещения зависит от модели.

logitBias?: Record<string, number>

Значение свойства

Record<string, number>

logprobs

Значение , которое управляет выбросом вероятностей журнала для указанного числа наиболее вероятных маркеров в ответе завершения.

logprobs?: number

Значение свойства

number

maxTokens

Максимальное число маркеров для создания.

maxTokens?: number

Значение свойства

number

n

Количество вариантов завершения, которое должно быть создано для каждого предоставленного запроса в рамках общего ответа на завершение. Так как этот параметр может генерировать множество завершений, он может быстро использовать квоту маркера. Тщательно используйте и обеспечьте разумные параметры для max_tokens и остановки.

n?: number

Значение свойства

number

presencePenalty

Значение , которое влияет на вероятность появления созданных маркеров на основе их существующего присутствия в созданном тексте. Положительные значения сделают маркеры менее вероятными, если они уже существуют, и повысят вероятность вывода новых разделов в модели.

presencePenalty?: number

Значение свойства

number

stop

Коллекция текстовых последовательностей, которые завершат создание завершений.

stop?: string[]

Значение свойства

string[]

temperature

Используемая температура выборки, которая управляет очевидной творческой способностью созданных завершений. Более высокие значения делают выходные данные более случайными, а более низкие — более целенаправленные и детерминированные результаты. Не рекомендуется изменять температуру и top_p для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.

temperature?: number

Значение свойства

number

topP

Альтернатива выборке с температурой называется выборкой ядра. Это значение заставляет модель учитывать результаты токенов с предоставленной массой вероятности. Например, значение 0,15 приведет к тому, что будут учитываться только маркеры, составляющие 15 % от массы вероятности. Не рекомендуется изменять температуру и top_p для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.

topP?: number

Значение свойства

number

user

Идентификатор вызывающего или конечного пользователя операции. Он может использоваться для отслеживания или ограничения скорости.

user?: string

Значение свойства

string

Сведения об унаследованном свойстве

abortSignal

Сигнал, который можно использовать для прерывания запросов.

abortSignal?: AbortSignalLike

Значение свойства

AbortSignalLike

Наследуется от OperationOptions.abortSignal

onResponse

Функция, вызываемая каждый раз при получении ответа от сервера при выполнении запрошенной операции. Может вызываться несколько раз.

onResponse?: RawResponseCallback

Значение свойства

RawResponseCallback

Наследуется от OperationOptions.onResponse

requestOptions

Параметры, используемые при создании и отправке HTTP-запросов для этой операции.

requestOptions?: OperationRequestOptions

Значение свойства

OperationRequestOptions

Наследуется от OperationOptions.requestOptions

tracingOptions

Параметры, используемые при включенной трассировке.

tracingOptions?: OperationTracingOptions

Значение свойства

OperationTracingOptions

Наследуется от OperationOptions.tracingOptions