RunCreateRequest.TopP

RunCreateRequest.TopP özelliği

Sıcaklık ile örnekleme alternatifine, çekirdek örnekleme denir; burada model, top_p olasılık kütlesine sahip token’ların sonuçlarını dikkate alır. Yani 0.1, yalnızca en yüksek %10 olasılık kütlesini oluşturan token’ların dikkate alındığı anlamına gelir. Genellikle bunu veya sıcaklığı değiştirmeyi öneriyoruz, ancak her ikisini birden değil.

public double? TopP { get; set; }

Ayrıca Bakınız

RunCreateRequest.Tools RunCreateRequest.TruncationStrategy