CalculationPrecisionStrategy

CalculationPrecisionStrategy enumeration

Hesaplama kesinliğini işlemeye yönelik stratejileri sıralar. IEEE 754 Kayan Nokta Aritmetiğinin kesinlik sorunu nedeniyle, bazı “görünüşte basit” formüller beklenen sonuç olarak hesaplanmayabilir. “=-0.45+0.43+0.02” formülü gibi , işlenenleri doğrudan ‘+’ operatörü ile hesaplarken, sonuç sıfır değildir. Bu tür bir kesinlik sorunu için, bazı özel stratejiler beklenen sonucu verebilir.

public enum CalculationPrecisionStrategy

değerler

İsimDeğerTanım
None0Hesaplamada strateji uygulanmadı. Hesaplarken, işlenen olarak yalnızca orijinal çift değeri kullanın ve sonucu doğrudan döndürün. Performans için en verimli ve çoğu durumda uygulanabilir.
Round1Hesaplama sonucunu anlamlı rakamlara göre yuvarlar.
Decimal2Mümkün olduğunda işlenen olarak ondalık sayı kullanır. Performans için en verimsiz.

Ayrıca bakınız