Jack
Cadet 3rd Year
- Registriert
- Feb. 2003
- Beiträge
- 46
Hallo,
für diverse Wettbewerbe muß ich Zahlen en masse bis hin zum tausendstel-Bereich auswerten. Addieren, Durchschnitte, Summen etcpp. klappt ja auch wunderbar.
Als sog. Perfektionist stört mich nur die "Ungenauigkeit" z.B. bei einer simplen Addition: folgende Zahlen:
00:17,052
00:15,837
00:15,527
00:00,032
ergeben in der Excel-Tabelle 00:48,449 statt ....,448. Peanuts, natürlich. Aber erstens ist das nur ein Minibeispiel und in sehr großen Tabellen kann sich das vielleicht ziemlich kumulieren, 2. jedoch würde mich vielmehr der Grund dafür interessieren.
Es gibt doch bestimmt Experten/Programmierer, die mir den logischen Hintergrund erklären können. Dasselbe Problem habe ich ja auch, wenn ich zwar in einer Progr.-Spräche X Zahlen mit 3 Nachkommastellen definiere, aber programmintern wird die ganze Zeit bis zur Ausgabe mit 13-stelliger Genauigkeit gerechnet. Da kommt dann ja auch nur Soße bei raus.
Ich hoffe, ich habe meine Frage bzw. "Problematik" einigermaßen verständlich erklärt.
Ist ja nicht von so existenzieller Bedeutung, war froh, überhaupt mit dieser Zahlenwirtschaft (benutzerdef.Format, Add. etc.) zurechtzukommen.
Wäre schön, wenn es eine plausible Erklärung gäbe, denn ich kann mir vorstellen, daß dieses nicht nur auf "mein" Problem zutrifft.
MfG, Jack
für diverse Wettbewerbe muß ich Zahlen en masse bis hin zum tausendstel-Bereich auswerten. Addieren, Durchschnitte, Summen etcpp. klappt ja auch wunderbar.
Als sog. Perfektionist stört mich nur die "Ungenauigkeit" z.B. bei einer simplen Addition: folgende Zahlen:
00:17,052
00:15,837
00:15,527
00:00,032
ergeben in der Excel-Tabelle 00:48,449 statt ....,448. Peanuts, natürlich. Aber erstens ist das nur ein Minibeispiel und in sehr großen Tabellen kann sich das vielleicht ziemlich kumulieren, 2. jedoch würde mich vielmehr der Grund dafür interessieren.
Es gibt doch bestimmt Experten/Programmierer, die mir den logischen Hintergrund erklären können. Dasselbe Problem habe ich ja auch, wenn ich zwar in einer Progr.-Spräche X Zahlen mit 3 Nachkommastellen definiere, aber programmintern wird die ganze Zeit bis zur Ausgabe mit 13-stelliger Genauigkeit gerechnet. Da kommt dann ja auch nur Soße bei raus.
Ich hoffe, ich habe meine Frage bzw. "Problematik" einigermaßen verständlich erklärt.
Ist ja nicht von so existenzieller Bedeutung, war froh, überhaupt mit dieser Zahlenwirtschaft (benutzerdef.Format, Add. etc.) zurechtzukommen.
Wäre schön, wenn es eine plausible Erklärung gäbe, denn ich kann mir vorstellen, daß dieses nicht nur auf "mein" Problem zutrifft.
MfG, Jack