RunThreadCreateRequest.TopP

RunThreadCreateRequest.TopP-egenskap

Hämtar eller ställer in ett värde som är ett alternativ till sampling med temperatur, kallad nucleus sampling, där modellen överväger resultaten av token med top_p sannolikhetsmassa. Så 0.1 betyder att endast de token som utgör den översta 10% sannolikhetsmassan beaktas. Vi rekommenderar generellt att ändra detta eller temperaturen men inte båda.

public double? TopP { get; set; }

Se Även

RunThreadCreateRequest.Tools RunThreadCreateRequest.TruncationStrategy