CalculationPrecisionStrategy

CalculationPrecisionStrategy enumeration

Enumera le strategie per gestire la precisione di calcolo. A causa del problema di precisione dell’aritmetica in virgola mobile IEEE 754, alcune formule “apparentemente semplici” potrebbero non essere calcolate come risultato atteso. Come la formula “=-0.45+0.43+0.02” , quando si calcolano direttamente gli operandi tramite l’operatore ‘+’, il risultato non è zero. Per questo tipo di problema di precisione, alcune strategie speciali possono dare il risultato atteso.

public enum CalculationPrecisionStrategy

I valori

NomeValoreDescrizione
None0Nessuna strategia applicata al calcolo. Quando si calcola, utilizzare semplicemente il valore doppio originale come operando e restituire direttamente il risultato. Il più efficiente per le prestazioni e applicabile nella maggior parte dei casi.
Round1Arrotonda il risultato del calcolo in base a cifre significative.
Decimal2Usa i decimali come operandi quando possibile. Il più inefficiente per le prestazioni.

Guarda anche