AssistantCreateRequest.TopP

AssistantCreateRequest.TopP-Eigenschaft

Ruft eine Alternative zum Sampling mit Temperatur ab oder legt sie fest, die als Nucleus-Sampling bezeichnet wird, bei dem das Modell die Ergebnisse der Tokens mit der top_p-Wahrscheinlichkeitsmasse berücksichtigt. Ein Wert von 0.1 bedeutet, dass nur die Tokens berücksichtigt werden, die die obersten 10% der Wahrscheinlichkeitsmasse ausmachen. Wir empfehlen im Allgemeinen, entweder dies oder die Temperatur zu ändern, aber nicht beides.

public double? TopP { get; set; }

Siehe auch