| Usuario |
Problema con exponentes no enteros |
Desconocido
|
| Enviado - 6/10/2004 |
| |
A ver, esto me está volviendo loco.
Tengo unos clientes que revisan en Excel todos los cálculos que se hacen en el programa que estamos desarrollando y me ocurre lo siguiente:
en Visual Basic (la coma es un punto en el código de visual, representa un número decimal y lo pongo así para que sea más entendible):
10^(55,272) = 1,87068214036579E+55
Ellos lo comprueban en Excel...
10^(55,272) = 1,87068214036581E+55
Y la diferencia entre los dos números en lugar de ser 0 es 2,26E+41, un número lo suficientemente grande como para preocuparse.
No entiendo que ocurre, he buscado y buscado por internet sin encontrar solución, por favor necesito ayuda urgente, si alguien sabe la que pasa y como se soluciones que me conteste lo antes posible.
Muchas gracias.
|
| |
|
cperez2k
19 Mensaje(s)
|
| Enviado - 7/10/2004 |
| |
La verdad tambien no tengo idea de lo que pasa, pero hice esto y me dio lo mismo en un programa en visual, java y en excell
primero saca el valor entere
despues la parte decimal
despues los multiplicas
dim n1 as double
dim n2 as double
dim n as double
n1 = 10 ^ 55
n2 = 10 ^ 0.272
n = n1 * n2
espero te sirva |
| |
|
|
|
