CalculationPrecisionStrategy
CalculationPrecisionStrategy enumeration
Hesaplama kesinliğini işlemeye yönelik stratejileri sıralar. IEEE 754 Kayan Nokta Aritmetiğinin kesinlik sorunu nedeniyle, bazı “görünüşte basit” formüller beklenen sonuç olarak hesaplanmayabilir. “=-0.45+0.43+0.02” formülü gibi , işlenenleri doğrudan ‘+’ operatörü ile hesaplarken, sonuç sıfır değildir. Bu tür bir kesinlik sorunu için, bazı özel stratejiler beklenen sonucu verebilir.
public enum CalculationPrecisionStrategy
değerler
İsim | Değer | Tanım |
---|---|---|
None | 0 | Hesaplamada strateji uygulanmadı. Hesaplarken, işlenen olarak yalnızca orijinal çift değeri kullanın ve sonucu doğrudan döndürün. Performans için en verimli ve çoğu durumda uygulanabilir. |
Round | 1 | Hesaplama sonucunu anlamlı rakamlara göre yuvarlar. |
Decimal | 2 | Mümkün olduğunda işlenen olarak ondalık sayı kullanır. Performans için en verimsiz. |
Ayrıca bakınız
- ad alanı Aspose.Cells
- toplantı Aspose.Cells