RunThreadCreateRequest.TopP

Proprietà RunThreadCreateRequest.TopP

Ottiene o imposta un valore che è un’alternativa al campionamento con temperatura, chiamato campionamento nucleo, dove il modello considera i risultati dei token con massa di probabilità top_p. Quindi 0.1 significa che vengono considerati solo i token che comprendono il 10% della massa di probabilità. In generale, raccomandiamo di modificare questo o la temperatura, ma non entrambi.

public double? TopP { get; set; }

Vedi Anche