Rundungsfehler bei Umrechung zwischen metrisch und imperial

[Rainer Hohn (Gast)]

Hallo zusammen,
ich habe zwei Löcher und will ihren Abstand berechnen.

Loch1: X: 01938 mil Y: -00519 mil
Loch2: X: 01937 mil Y: -03039 mil

Ich bekomme unterschiedliche Ergebnisse, wenn ich zuerst subtrahiere und 
dann in metrisch umrechne bzw. zuerst umrechne und dann subtrahiere:

Loch 1:
X: 01938 mil * 0.0254 = 49,2252
Y: -00519 mil * 0.0254 = -13,82599999999

Loch 2:
X  01937 mil * 0.0254 = 49,19979999
Y: -03039 mil * 0.0254 = -77,1906

X-Abstand der Löcher: 0 mm
Y-Abstand beider Löcher: 77,1906 mm - 13,826 mm = 63,3646 mm

Rundungsfehler bei Umrechung mil-mm
Y-Abstand beider Löcher: -00519 mil - -03039 mil = 2520 mil;
                                   2520 * 0,0254 = 64.008 mm.

Der zweite Wert müsste laut Messung richtig sein, aber warum ergeben 
sich diese Unterschiede?

Gruß Rainer

[Justus S. (jussa)]

Rainer Hohn schrieb:
> Der zweite Wert müsste laut Messung richtig sein, aber warum ergeben
> sich diese Unterschiede?

weil ganz einfach das

Rainer Hohn schrieb:
> Y: -00519 mil * 0.0254 = -13,82599999999

nicht stimmt...wo soll denn da auch die Periode herkommen?

[Rainer Hohn (Gast)]

Da hab ich zwei Rechungen vertauscht. Die Periode kommt daher, dass ich 
durch 39.xyz teile, was 1 /0.0254 entspricht.

Mit "x 0.0254" kommt 13,826 raus.

Wo könnte dann also der Fehler noch liegen?

[Justus S. (jussa)]

Rainer Hohn schrieb:
> Da hab ich zwei Rechungen vertauscht. Die Periode kommt daher, dass ich
> durch 39.xyz teile, was 1 /0.0254 entspricht.
>
> Mit "x 0.0254" kommt 13,826 raus.
>

nein...

[Simon B. (nomis)]

Rainer Hohn schrieb:
> Da hab ich zwei Rechungen vertauscht. Die Periode kommt daher, dass ich
> durch 39.xyz teile, was 1 /0.0254 entspricht.
>
> Mit "x 0.0254" kommt 13,826 raus.
>
> Wo könnte dann also der Fehler noch liegen?

dass das ".xyz" von dem 39.xyz falsch ist.

>>> 1/0.0254
39.37007874015748
>>> -519/39.37
-13.182626365252732

Oder: dir ist beim Abtippen irgendwie die erste Nachkommastelle hinter 
der -13 abhandengekommen:

-13,82599999999 vs. -13.182599999999999

Viele Grüße,
        Simon

[Rainer Hohn (Gast)]

Der Ablesefehler wars,
danke Simon!