CalculationPrecisionStrategy enumeración
CalculationPrecisionStrategy enumeración
Enumera estrategias para manejar la precisión del cálculo. Debido al problema de precisión de la aritmética de punto flotante IEEE 754, algunas fórmulas “aparentemente simples” pueden no calcularse como el resultado esperado. Por ejemplo, en la fórmula “=-0,45+0,43+0,02”, al calcular operandos directamente con el operador ‘+’, el resultado no es cero. Para este tipo de problema de precisión, Algunas estrategias especiales pueden dar el resultado esperado.
El tipo CalculationPrecisionStrategy expone los siguientes miembros:
Campos
| Campo | Descripción |
|---|---|
| NONE | No se aplicó ninguna estrategia en el cálculo. Al calcular, simplemente use el valor doble original como operando y devuelva el resultado directamente. Más eficiente en rendimiento y aplicable para la mayoría de los casos. |
| ROUND | Redondea el resultado del cálculo de acuerdo con los dígitos significativos. |
| DECIMAL | Utiliza decimales como operandos cuando sea posible. Más ineficiente para el rendimiento. |
Ver también
- módulo
aspose.cells
