RunThreadCreateRequest.ResponseFormat

Свойство RunThreadCreateRequest.ResponseFormat

Получает или устанавливает формат, который модель должна выводить. Совместимо с GPT-4o, GPT-4 Turbo и всеми моделями GPT-3.5 Turbo с gpt-3.5-turbo-1106. Установка { “type”: “json_object” } включает режим JSON, который гарантирует, что сообщение, генерируемое моделью, является допустимым JSON. Важно: при использовании режима JSON вы также должны указать модели самостоятельно производить JSON через системное или пользовательское сообщение. Без этого модель может генерировать бесконечный поток пробелов, пока генерация не достигнет предела токенов, что приведет к длительному и, казалось бы, “застрявшему” запросу. Также обратите внимание, что содержимое сообщения может быть частично обрезано, если finish_reason=“length”, что указывает на то, что генерация превысила max_tokens или разговор превысил максимальную длину контекста.

public ResponseFormat ResponseFormat { get; set; }

См. также

RunThreadCreateRequest.Model RunThreadCreateRequest.Stream