CalculationPrecisionStrategy enumeración
CalculationPrecisionStrategy enumeración
Enumera estrategias para manejar la precisión de los cálculos. Debido al problema de precisión de la aritmética de punto flotante IEEE 754, es posible que algunas fórmulas “aparentemente simples” no se calculen como el resultado esperado. Como en la fórmula “=-0,45+0,43+0,02”, cuando se calculan operandos directamente con el operador ‘+’, el resultado no es cero. Para tal tipo de problema de precisión, algunas estrategias especiales pueden dar el resultado esperado.
El tipo CalculationPrecisionStrategy expone los siguientes miembros:
Campos
| Campo | Descripción |
|---|---|
| NONE | No se aplicó ninguna estrategia en el cálculo. Al calcular, simplemente use el valor doble original como operando y devuelva el resultado directamente. Más eficiente para el rendimiento y aplicable en la mayoría de los casos. |
| ROUND | Redondea el resultado del cálculo según los dígitos significativos. |
| DECIMAL | Utiliza decimales como operandos cuando sea posible. Más ineficiente para el rendimiento. |
Ver también
- módulo
aspose.cells
