AssistantResponse.ResponseFormat

AssistantResponse.ResponseFormat özelliği

Modelin çıkarması gereken formatı alır veya ayarlar. gpt-3.5-turbo-1106’dan beri GPT-4o, GPT-4 Turbo ve tüm GPT-3.5 Turbo modelleri ile uyumludur. { “type”: “json_object” } olarak ayarlamak, modelin ürettiği mesajın geçerli bir JSON olduğunu garanti eden JSON modunu etkinleştirir. Önemli: JSON modunu kullanırken, modelin JSON üretmesini de bir sistem veya kullanıcı mesajı aracılığıyla talimat vermeniz gerekir. Bunu yapmadan, model, token limitine ulaşana kadar sonsuz bir boşluk akışı üretebilir ve bu da uzun süren ve görünüşte “takılmış” bir isteğe yol açar. Ayrıca, finish_reason=“length” olduğunda mesaj içeriğinin kısmen kesilebileceğini unutmayın; bu, üretimin max_tokens’ı aştığını veya konuşmanın max context uzunluğunu aştığını gösterir.

public ResponseFormat ResponseFormat { get; set; }

Ayrıca Bakınız