RunThreadCreateRequest.TopP

Propriété RunThreadCreateRequest.TopP

Obtient ou définit une valeur qui est une alternative à l’échantillonnage avec température, appelée échantillonnage par noyau, où le modèle considère les résultats des tokens avec une masse de probabilité top_p. Donc, 0.1 signifie que seuls les tokens composant la masse de probabilité des 10% supérieurs sont considérés. Nous recommandons généralement de modifier cela ou la température, mais pas les deux.

public double? TopP { get; set; }

Voir aussi