Class CompletionCreateRequest
Содержание
[
Скрывать
]Класс CompletionCreateRequest
Представляет запрос для конечной точки создания завершения чата.
public class CompletionCreateRequest
Конструкторы
Имя | Описание |
---|---|
CompletionCreateRequest() | Конструктор по умолчанию. |
Свойства
Имя | Описание |
---|---|
FrequencyPenalty { get; set; } | Получает или задает число от -2.0 до 2.0. Положительные значения штрафуют новые токены на основе их существующей частоты в тексте до сих пор, уменьшая вероятность модели повторять одну и ту же строку дословно. |
LogitBias { get; set; } | Получает или задает вероятность появления указанных токенов в завершении. Принимает объект JSON, который сопоставляет токены (указанные по их идентификатору токена в токенизаторе) с соответствующим значением смещения от -100 до 100. |
Logprobs { get; set; } | Получает или задает, следует ли возвращать логарифмические вероятности выходных токенов или нет. Если true, возвращает логарифмические вероятности каждого выходного токена, возвращенного в содержимом сообщения. |
MaxTokens { get; set; } | Получает или задает максимальное количество токенов для генерации в завершении. |
Messages { get; set; } | Получает или задает список сообщений, составляющих разговор до сих пор. |
Model { get; set; } | Получает или задает идентификатор модели для использования. |
NumberOfChoices { get; set; } | Получает или задает, сколько вариантов завершения чата генерировать для каждого входного сообщения. Обратите внимание, что с вас будет взиматься плата на основе количества сгенерированных токенов по всем вариантам. Установите n равным 1, чтобы минимизировать затраты. |
PresencePenalty { get; set; } | Получает или задает число от -2.0 до 2.0. Положительные значения штрафуют новые токены на основе того, появляются ли они в тексте до сих пор, увеличивая вероятность модели говорить о новых темах. |
ResponseFormat { get; set; } | Получает или задает объект, указывающий формат, который модель должна выводить. Совместим с GPT-4 Turbo и всеми моделями GPT-3.5 Turbo новее gpt-3.5-turbo-1106. Установка { “type”: “json_object” } включает режим JSON, который гарантирует, что сообщение, сгенерированное моделью, является действительным JSON. |
Seed { get; set; } | Получает или задает значение Seed. Эта функция находится в бета-версии. Если указано, наша система постарается сделать выбор детерминированным, так что повторные запросы с тем же seed и параметрами должны возвращать один и тот же результат. Детерминизм не гарантируется, и вам следует обратиться к параметру ответа system_fingerprint, чтобы отслеживать изменения в бэкенде. |
Stop { get; set; } | Получает или задает до 4 последовательностей, при которых API прекратит генерировать дальнейшие токены. |
Stream { get; set; } | Получает или задает, использовать ли потоковую передачу. Если установлено, будут отправлены частичные изменения сообщений, как в ChatGPT. Токены будут отправлены как события, отправляемые сервером только с данными, по мере их появления, при этом поток будет завершен сообщением data: [DONE]. |
Temperature { get; set; } | Получает или задает, какую температуру выборки использовать, от 0 до 2. Более высокие значения, такие как 0.8, сделают вывод более случайным, в то время как более низкие значения, такие как 0.2, сделают его более сосредоточенным и детерминированным. |
ToolChoice { get; set; } | Получает или задает объект, который управляет тем, какой (если есть) инструмент вызывается моделью. none означает, что модель не будет вызывать никакой инструмент и вместо этого сгенерирует сообщение. auto означает, что модель может выбирать между генерацией сообщения или вызовом одного или нескольких инструментов. required означает, что модель должна вызвать один или несколько инструментов. Указание конкретного инструмента через {“type”: “function”, “function”: {“name”: “my_function”}} заставляет модель вызвать этот инструмент. none является значением по умолчанию, когда инструменты отсутствуют. auto является значением по умолчанию, если инструменты присутствуют. |
Tools { get; set; } | Получает или задает список инструментов, которые модель может вызывать. В настоящее время поддерживаются только функции в качестве инструмента. Используйте это, чтобы предоставить список функций, для которых модель может генерировать JSON-входы. Поддерживается максимум 128 функций. |
TopP { get; set; } | Получает или задает альтернативу выборке с температурой, называемую выборкой по ядру, где модель учитывает результаты токенов с вероятностью top_p. Таким образом, 0.1 означает, что учитываются только токены, составляющие верхние 10% вероятностной массы. |
User { get; set; } | Получает или задает уникальный идентификатор, представляющий вашего конечного пользователя, который может помочь OpenAI отслеживать и обнаруживать злоупотребления. |
См. также
- пространство имен Aspose.Pdf.AI
- сборка Aspose.PDF