Поделиться через

GetChatCompletionsOptions interface

  • Ссылка
Пакет:
@azure/openai

Этот модуль содержит модели, которые мы хотим жить параллельно с соответствующими созданными моделями. Это полезно для предоставления клиентских моделей, имена и типы которых отличаются от созданных моделей.

Extends
OperationOptions

Свойства

azureExtensionOptions

Записи конфигурации для расширений чата Azure OpenAI, которые их используют. Эта дополнительная спецификация совместима только с Azure OpenAI.
frequencyPenalty

Значение , которое влияет на вероятность появления созданных маркеров на основе их совокупной частоты в созданном тексте. Положительные значения делают маркеры менее вероятными по мере увеличения их частоты и снижают вероятность того, что модель будет повторять одни и те же инструкции дословно.
functionCall

Управляет реакцией модели на вызовы функций. "none" означает, что модель не вызывает функцию и отвечает конечному пользователю. "auto" означает, что модель может выбирать между конечным пользователем или вызовом функции. При указании конкретной функции через {"name": "my_function"} модель вызывается эта функция. Значение "none" используется по умолчанию, если функции отсутствуют. "auto" используется по умолчанию, если существуют функции.
functions

Список функций, для которые модель может создавать входные данные JSON.
logitBias

Сопоставление между идентификаторами маркеров GPT и оценками смещения, которое влияет на вероятность появления определенных маркеров в ответе на завершения. Идентификаторы маркеров вычисляются с помощью средств внешнего создателя маркеров, а оценки смещения находятся в диапазоне от –100 до 100 с минимальными и максимальными значениями, соответствующими полному запрету или исключительному выбору маркера соответственно. Точное поведение заданной оценки смещения зависит от модели.
maxTokens

Максимальное число маркеров для создания.
n

Количество вариантов завершения чата, которые должны быть созданы для ответа на завершение чата. Так как этот параметр может генерировать множество завершений, он может быстро использовать квоту маркера. Используйте тщательно и обеспечьте разумные настройки для maxTokens и stop.
presencePenalty

Значение , которое влияет на вероятность появления созданных маркеров на основе их существующего присутствия в созданном тексте. Положительные значения делают маркеры менее вероятными, если они уже существуют, и повышают вероятность вывода новых разделов в модели.
responseFormat

Объект , указывающий формат, который должна вывести модель. Используется для включения режима JSON.
seed

Если этот параметр указан, система приложит все усилия для детерминированной выборки, чтобы повторяющиеся запросы с одинаковыми начальными значениями и параметрами возвращали один и тот же результат. Детерминизм не гарантируется, и для отслеживания изменений в серверной части следует ссылаться на параметр ответа system_fingerprint".
stop

Коллекция текстовых последовательностей, которая завершит создание завершений.
temperature

Используемая температура выборки, которая контролирует кажущуюся креативность созданных завершений. Более высокие значения делают выходные данные более случайными, а более низкие — более целенаправленные и детерминированные результаты. Не рекомендуется изменять температуру и topP для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.
toolChoice

Если этот параметр указан, модель будет настраивать, какие из предоставленных средств она может использовать для ответа на завершение чата.
tools

Доступные определения инструментов, которые могут использоваться запросом завершения чата, включая функции, определяемые вызывающим абонентом.
topP

Альтернатива выборке с температурой называется выборкой ядра. Это значение заставляет модель учитывать результаты токенов с заданной вероятностью. Например, значение 0,15 приведет к тому, что будут учитываться только маркеры, составляющие 15 % от массы вероятности. Не рекомендуется изменять температуру и topP для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.
user

Идентификатор вызывающего или конечного пользователя операции. Его можно использовать для отслеживания или ограничения скорости.

Унаследованные свойства

abortSignal

Сигнал, который можно использовать для прерывания запросов.
onResponse

Функция, вызываемая при каждом получении ответа от сервера при выполнении запрошенной операции. Может вызываться несколько раз.
requestOptions

Параметры, используемые при создании и отправке HTTP-запросов для этой операции.
tracingOptions

Параметры, используемые при включенной трассировке.

Сведения о свойстве

azureExtensionOptions

Записи конфигурации для расширений чата Azure OpenAI, которые их используют. Эта дополнительная спецификация совместима только с Azure OpenAI.

azureExtensionOptions?: AzureExtensionsOptions

Значение свойства

AzureExtensionsOptions

frequencyPenalty

Значение , которое влияет на вероятность появления созданных маркеров на основе их совокупной частоты в созданном тексте. Положительные значения делают маркеры менее вероятными по мере увеличения их частоты и снижают вероятность того, что модель будет повторять одни и те же инструкции дословно.

frequencyPenalty?: number

Значение свойства

number

functionCall

Управляет реакцией модели на вызовы функций. "none" означает, что модель не вызывает функцию и отвечает конечному пользователю. "auto" означает, что модель может выбирать между конечным пользователем или вызовом функции. При указании конкретной функции через {"name": "my_function"} модель вызывается эта функция. Значение "none" используется по умолчанию, если функции отсутствуют. "auto" используется по умолчанию, если существуют функции.

functionCall?: string | FunctionName

Значение свойства

string | FunctionName

functions

Список функций, для которые модель может создавать входные данные JSON.

functions?: FunctionDefinition[]

Значение свойства

FunctionDefinition[]

logitBias

Сопоставление между идентификаторами маркеров GPT и оценками смещения, которое влияет на вероятность появления определенных маркеров в ответе на завершения. Идентификаторы маркеров вычисляются с помощью средств внешнего создателя маркеров, а оценки смещения находятся в диапазоне от –100 до 100 с минимальными и максимальными значениями, соответствующими полному запрету или исключительному выбору маркера соответственно. Точное поведение заданной оценки смещения зависит от модели.

logitBias?: Record<string, number>

Значение свойства

Record<string, number>

maxTokens

Максимальное число маркеров для создания.

maxTokens?: number

Значение свойства

number

n

Количество вариантов завершения чата, которые должны быть созданы для ответа на завершение чата. Так как этот параметр может генерировать множество завершений, он может быстро использовать квоту маркера. Используйте тщательно и обеспечьте разумные настройки для maxTokens и stop.

n?: number

Значение свойства

number

presencePenalty

Значение , которое влияет на вероятность появления созданных маркеров на основе их существующего присутствия в созданном тексте. Положительные значения делают маркеры менее вероятными, если они уже существуют, и повышают вероятность вывода новых разделов в модели.

presencePenalty?: number

Значение свойства

number

responseFormat

Объект , указывающий формат, который должна вывести модель. Используется для включения режима JSON.

responseFormat?: ChatCompletionsResponseFormat

Значение свойства

ChatCompletionsResponseFormat

seed

Если этот параметр указан, система приложит все усилия для детерминированной выборки, чтобы повторяющиеся запросы с одинаковыми начальными значениями и параметрами возвращали один и тот же результат. Детерминизм не гарантируется, и для отслеживания изменений в серверной части следует ссылаться на параметр ответа system_fingerprint".

seed?: number

Значение свойства

number

stop

Коллекция текстовых последовательностей, которая завершит создание завершений.

stop?: string[]

Значение свойства

string[]

temperature

Используемая температура выборки, которая контролирует кажущуюся креативность созданных завершений. Более высокие значения делают выходные данные более случайными, а более низкие — более целенаправленные и детерминированные результаты. Не рекомендуется изменять температуру и topP для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.

temperature?: number

Значение свойства

number

toolChoice

Если этот параметр указан, модель будет настраивать, какие из предоставленных средств она может использовать для ответа на завершение чата.

toolChoice?: ChatCompletionsNamedToolSelectionUnion

Значение свойства

ChatCompletionsNamedToolSelectionUnion

tools

Доступные определения инструментов, которые могут использоваться запросом завершения чата, включая функции, определяемые вызывающим абонентом.

tools?: ChatCompletionsToolDefinitionUnion[]

Значение свойства

ChatCompletionsToolDefinitionUnion[]

topP

Альтернатива выборке с температурой называется выборкой ядра. Это значение заставляет модель учитывать результаты токенов с заданной вероятностью. Например, значение 0,15 приведет к тому, что будут учитываться только маркеры, составляющие 15 % от массы вероятности. Не рекомендуется изменять температуру и topP для одного запроса завершения, так как взаимодействие этих двух параметров трудно предсказать.

topP?: number

Значение свойства

number

user

Идентификатор вызывающего или конечного пользователя операции. Его можно использовать для отслеживания или ограничения скорости.

user?: string

Значение свойства

string

Сведения об унаследованном свойстве

abortSignal

Сигнал, который можно использовать для прерывания запросов.

abortSignal?: AbortSignalLike

Значение свойства

AbortSignalLike

Наследуется от OperationOptions.abortSignal

onResponse

Функция, вызываемая при каждом получении ответа от сервера при выполнении запрошенной операции. Может вызываться несколько раз.

onResponse?: RawResponseCallback

Значение свойства

RawResponseCallback

Наследуется от OperationOptions.onResponse

requestOptions

Параметры, используемые при создании и отправке HTTP-запросов для этой операции.

requestOptions?: OperationRequestOptions

Значение свойства

OperationRequestOptions

Наследуется от OperationOptions.requestOptions

tracingOptions

Параметры, используемые при включенной трассировке.

tracingOptions?: OperationTracingOptions

Значение свойства

OperationTracingOptions

Наследуется от OperationOptions.tracingOptions