AssistantResponse.TopP

AssistantResponse.TopP-egenskap

Hämtar eller ställer in ett alternativ till sampling med temperatur, kallad nucleus sampling, där modellen överväger resultaten av token med top_p sannolikhetsmassa. Så 0.1 betyder att endast de token som utgör den översta 10% sannolikhetsmassan beaktas. Vi rekommenderar vanligtvis att ändra detta eller temperaturen men inte båda.

public double? TopP { get; set; }

Se Även

AssistantResponse.Tools