Mein PC ist zu blöd zum Rechnen!

[Quixotte]

Was dieses Bild eindeutig beweist!

Hab mal gedacht ich schau mal in Python rein ... kopier mir die kleine Rechnung in mein Script rein ... Starte es und was kommt raus!?!?!

DAS: (siehe Anhang)

Wie kann das gehen ?!?! Ich meine da steht klip und klar: (so in der art)
"RECHNE 3,14 * 10 UND ZEIGE ES AN"

aber warum um alles in der welt kommt der auf 31,40000000000000002

 

[Smurftrooper]

das is nich zufällig n alter Pentium I, oder? die hatten so nen kleinen bug in der fpu.

 

[kurt cobain]

Hat nix mit Bug zu tun, nehme ich an. Das ist ganz normal bei diversen Variablen...

 

[Quixotte]

ne ... is kein pentium I :-) -> athlonXP

naja ich denke mal isn bug vom programm ... wenn ich zb 3,140000000000000000000001 einsetzte kommt genau das gleiche raus.

 

[Heretic Novalis]

bidde:

http://www.hofen.ch/~andreas/Deutsch/BASIC-Knowhow-Ecke/Gleitkommazahlen.html

 

[BOZ_er]

@Smurftrooper der FPD Bug tritt nur bei Division von Großen Zahlen auf und das auch nur bei sehr wenigen....

 

[Green Mamba]

das ist kein bug, sondern liegt daran dass intern mit floats gerechnet wird wegen der komma-zahl. dabei passieren zwangsläufig rundungsfehler. hat nichts mit prozessor-art zu tun, sondern ist ganz normal!
du musst einfach einen weg finden die nachkommastellen zu begrenzen. keine ahnung wie das bei python funktioniert.

wenn du das genauer verstehen willst, dann erkundige dich mal bei dr. google wie die zahlendarstellung von floating-points ist, und wie damit gerechnet wird.

 

[FreddyMercury]

Oder nimm einfach einen Integer oder einfach den normalen float wert. Wenn du allerdings den Integer nimmst, hast nur grade zahlen und keine fließkommazahlen

 

[Quixotte]

mmhh najagut ... doofes runden

trotzdem kann ich das besser