Piktogramm
Admiral
- Registriert
- Okt. 2008
- Beiträge
- 8.859
Versuch es mal analog zum IEEE754 im Dezimalbereich also so:T_55 schrieb:7.15631 -> Messwert hat 6 signifikanten Stellen -> float geht ok
0.0715631 -> Messwert hat 8 signifikanten Stellen -> float reicht nicht
(+)1 * 715631 * 10 ^-7
Vorzeichen * Mantisse * 10er Potenz
Die Mantisse hat 6 Stellen und ist damit überhaupt kein Problem. Bei der Umwandlung zu binär kommt es zwar zu den typischen Artefakten, die 6 relevanten Stellen bleiben jedoch unberührt: 0.071563102304935455322265625
Erst wenn die (ganzzahlige) Mantisse länger wird kommt es zwangsweise zur Verfälschung des Wertes.
An der Stelle könnte man dann noch das Fass aufmachen, ob es je nach Wertebereich sinnvoll ist mit Integern zu rechnen
Zuletzt bearbeitet: