Archiv verlassen und diese Seite im Standarddesign anzeigen : Mein PC ist zu blöd zum Rechnen!
Quixotte
21.12.2003, 20:23
Was dieses Bild eindeutig beweist!
Hab mal gedacht ich schau mal in Python rein ... kopier mir die kleine Rechnung in mein Script rein ... Starte es und was kommt raus!?!?!
DAS: (siehe Anhang)
Wie kann das gehen ?!?! Ich meine da steht klip und klar: (so in der art)
"RECHNE 3,14 * 10 UND ZEIGE ES AN"
aber warum um alles in der welt kommt der auf 31,40000000000000002
Smurftrooper
22.12.2003, 00:30
das is nich zufällig n alter Pentium I, oder? die hatten so nen kleinen bug in der fpu.
kurt cobain
22.12.2003, 01:56
Hat nix mit Bug zu tun, nehme ich an. Das ist ganz normal bei diversen Variablen...
Quixotte
22.12.2003, 02:08
ne ... is kein pentium I :-) -> athlonXP
naja ich denke mal isn bug vom programm ... wenn ich zb 3,140000000000000000000001 einsetzte kommt genau das gleiche raus.
Heretic Novalis
23.12.2003, 09:56
bidde:
http://www.hofen.ch/~andreas/Deutsch/BASIC-Knowhow-Ecke/Gleitkommazahlen.html
@Smurftrooper der FPD Bug tritt nur bei Division von Großen Zahlen auf und das auch nur bei sehr wenigen....
Green Mamba
10.01.2004, 14:28
das ist kein bug, sondern liegt daran dass intern mit floats gerechnet wird wegen der komma-zahl. dabei passieren zwangsläufig rundungsfehler. hat nichts mit prozessor-art zu tun, sondern ist ganz normal!
du musst einfach einen weg finden die nachkommastellen zu begrenzen. keine ahnung wie das bei python funktioniert.
wenn du das genauer verstehen willst, dann erkundige dich mal bei dr. google wie die zahlendarstellung von floating-points ist, und wie damit gerechnet wird. ;)
FreddyMercury
13.01.2004, 17:53
Oder nimm einfach einen Integer oder einfach den normalen float wert. Wenn du allerdings den Integer nimmst, hast nur grade zahlen und keine fließkommazahlen :(
Quixotte
13.01.2004, 19:41
mmhh najagut ... doofes runden :rolleyes
trotzdem kann ich das besser :D