Hallo zusammen. Habe ein kleinen Problem mit der Division von Netagiven werten. Ich hab zwei Integerwerte welche ich nach in Double umwandle, das Funktioniert noch. Nun ist es möglich das einer der beiden Werte oder beide Werte negativ sein können. Anstatt ein Negativer Wert erhalte ich eine gewaltige Zahl. Example x_axes und y_axes sind zwei signed integer x_axes2 und y_axes2 und resultat sind double nun mache ich folgendes x_axes2=(double)x_axes; y_axes2=(double)y_axes; resultat=y_axes2/x_axes2; Nun, sind die beiden Werte Positiv klappt alles. ist y_axes = -30 und x_axes = 16 erhalte ich 4367.066 ist y_axes = -8 und x_axes = 29 erhalte ich 0.00044 ist y_axes = -8 und x_axes = -25 erhalte ich 1.00026 Compiler ist AVRGCC auf einem ATMEGA8 Ich danke schonmal für eure Tipps.
1. double ist m.W. nur float beim avrgcc; sollte hier aber egal sein 2. Wenn Du die Werte erst in Fließkommavariablen speicherst, würde würde ich mir die doch einmal ausgeben lassen, dann weißt Du immerhin schon mal, ob die Seltsamkeit bei der Umwandlung in float passiert oder bei der Division 3. Nur zur Sicherheit: hast Du Dir wirklich gut überlegt, ob Du die Fließkommedivision nicht vermeiden kannst. In fast jedem Fall tut es auch eine Fixkommadivision, die dem mega8 viel besser gefällt. Oder sie läßt sich gar ganz vermeiden!
Mit den Werten berechne ich den arcustangens. Aber du hattest Recht! Hab übersehen das der Fehler schon bei der Wandlung und nicht bei der Division auftritt. Vielen Dank für die Hilfe.
Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail? Keine Anmeldung erforderlich!
Mit Google-Account einloggen
Mit Google-Account einloggen
Noch kein Account? Hier anmelden.