RunThreadCreateRequest.TopP

Propiedad RunThreadCreateRequest.TopP

Obtiene o establece un valor que es una alternativa al muestreo con temperatura, llamado muestreo de núcleo, donde el modelo considera los resultados de los tokens con masa de probabilidad top_p. Así que 0.1 significa que solo se consideran los tokens que comprenden el 10% superior de la masa de probabilidad. Generalmente recomendamos alterar esto o la temperatura, pero no ambos.

public double? TopP { get; set; }

Véase también