RunThreadCreateRequest.TopP

RunThreadCreateRequest.TopP özelliği

Sıcaklık ile örnekleme alternatif olan, çekirdek örnekleme olarak adlandırılan bir değeri alır veya ayarlar; burada model, top_p olasılık kütlesine sahip token’ların sonuçlarını dikkate alır. Yani 0.1, yalnızca en yüksek %10 olasılık kütlesini oluşturan token’ların dikkate alındığı anlamına gelir. Genellikle bunu veya sıcaklığı değiştirmeyi öneriyoruz, ancak her ikisini birden değil.

public double? TopP { get; set; }

Ayrıca Bakınız

RunThreadCreateRequest.Tools RunThreadCreateRequest.TruncationStrategy