Ver Mensaje Individual
  #1 (permalink)  
Antiguo 10/09/2010, 05:49
zant95
Invitado
 
Mensajes: n/a
Puntos:
Pregunta Resultados erróneos JavaScript

Hola a todos, estoy haciendo una calculadora en javascript, pero si hago 2.01-2 el resultado que sale es 0.00999999999999979.

También me pasa lo mismo en Perl y Python.

¿A qué se debe esto? ¿Y cómo se puede corregir?

Saludos.

EDITO: He estado buscando y he descubierto que es el error de punto flotante, al parecer muy común, pero lo he solucionado con esto:

Código Javascript:
Ver original
  1. function compute(form) {
  2.   floating_point = eval(form.display.value)
  3.   form.display.value = Math.round(floating_point * Math.pow(10,6))/Math.pow(10,6)
  4. }

Última edición por zant95; 10/09/2010 a las 06:37 Razón: Solucionado