Forum: Mikrocontroller und Digitale Elektronik Werte berechnen mittels OpenOffice Calc


von Bernd S. (Firma: Anscheinend Corner-Cases ;-)) (bernd_stein)


Lesenswert?

Hallo zusammen,

wie lautet die Formel bei OpenOffice calc, die mir die Tabelle unten
vervollständigt. Mir ist aufgefallen das z.B. bei

VADCm +             VREF / GAIN = 1023

und

VADCm + (1023/1024) VREF / GAIN = 1023

das gleiche Ergebnis herauskommt. Nun wollte ich herausfinden wo dies
noch der Fall ist.
Fall dies nicht so einfach sein sollte, wo nach muß ich gezielt suchen ?
Nach " Formel " brachte mich nicht weiter.


Table 44. Correlation Between Input Voltage and Output Codes
VADCn Read code Corresponding decimal value

VADCm +             VREF /GAIN     0x3FF     1023
VADCm + (1023/1024) VREF /GAIN     0x3FF     1023
VADCm + (1022/1024) VREF /GAIN     0x3FE     1022
... ... ...
VADCm + (1/1024)    VREF /GAIN     0x001        1
VADCm                              0x000        0

Die Tabelle ist auf Seite 100 zu finden.

http://www.atmel.com/dyn/resources/prod_documents/...

Bernd_Stein

von Dietrich L. (dietrichl)


Lesenswert?

Die Darstellung der Ergebnisse ist so formatiert, dass keine Stellen 
hinter dem Komma angezeigt werden. Daher wird gerundet.
Wenn Du die Formatierung änderst (mehrere Stellen hinter dem Komma), 
siehst Du das genauere Ergebnis und damit die Größe des Fehlers, den die 
Rundung macht.

Ich hoffe, das war Deine Frage    Gruß Dietrich

von spess53 (Gast)


Lesenswert?

Hi

>das gleiche Ergebnis herauskommt. Nun wollte ich herausfinden wo dies
>noch der Fall ist.

Das kommt nur deshalb zweimal vor weil alles was

 >=VADCm + (1023/1024) VREF /GAIN

den Wert $3FF ergibt. Und <=VADCm  ergibt immer Null. Wozu braucht man 
da noch eine Formel?

MfG Spess

von Bernd S. (Firma: Anscheinend Corner-Cases ;-)) (bernd_stein)


Lesenswert?

Dietrich L. schrieb:
> Die Darstellung der Ergebnisse ist so formatiert, dass keine Stellen
> hinter dem Komma angezeigt werden. Daher wird gerundet.
> Wenn Du die Formatierung änderst (mehrere Stellen hinter dem Komma),
> siehst Du das genauere Ergebnis und damit die Größe des Fehlers, den die
> Rundung macht.
>
> Ich hoffe, das war Deine Frage    Gruß Dietrich
>
Danke für die Antwort.
Leider ist meine Frage damit nicht ganz beantwortet. Ich möchte nämlich 
herausfinden, an welchen Stellen das Runden zum gleichen Ergebnis führt.
Um nicht tausende von Rechnungen selber zu machen, dachte ich das dies 
mit OpenOffice Calc sicherlich erheblich schneller geht.

Ich weiß nur nicht welche Formel bzw. Gleichung ich dafür benutzen soll.
Da muß ja irgendwie wie eine FOR...NEXT Schleife
( so wie man dies zB. in BASIC macht ) ablaufen.
Wobei die Variable von 0 bis 1023 zählt und gleichzeitig den Zählumfang 
bildet.

VADCm + ( "VARIABLE" / 1024)    VREF /GAIN     0x001        1

Bernd_Stein

von Hannes L. (hannes)


Lesenswert?

Du denkst wieder viel zu kompliziert und stehst Dir selbst im Wege...

Du suchst die ultimative Formel. Eigentlich reicht ja der Dreisatz. 
Überlege Dir, was Dein Dispay bei einem ADC-Wert von 0 und 1023 anzeigen 
soll und berechne daraus den Skalierungsfaktor. Ist dieser gebrochen, so 
erweitere den Bruch um 256 und wirf das untere Byte des Ergebnisses weg, 
was einer Division durch 256 gleichkommt, aber keine Rechenzeit kostet.

...

von Bernd S. (Firma: Anscheinend Corner-Cases ;-)) (bernd_stein)


Lesenswert?

spess53 schrieb:
>...
> Das kommt nur deshalb zweimal vor weil alles was
>
>  >=VADCm + (1023/1024) VREF /GAIN
>
> den Wert $3FF ergibt. Und <=VADCm  ergibt immer Null. Wozu braucht man
> da noch eine Formel?
>
Ich weiß ich drücke mich etwas umständlich aus. Aber ich denke die 
Tabelle deutet an, das es 1024 " verschiedene " Werte gibt.
Von 0 bis 1023.

Table 44. Correlation Between Input Voltage and Output Codes
VADCn Read code Corresponding decimal value

VADCm +             VREF /GAIN     0x3FF     1023
VADCm + (1023/1024) VREF /GAIN     0x3FF     1023
VADCm + (1022/1024) VREF /GAIN     0x3FE     1022
... ... ...
VADCm + (1/1024)    VREF /GAIN     0x001        1
VADCm                              0x000        0

Die Tabelle ist auf Seite 100 zu finden.

http://www.atmel.com/dyn/resources/prod_documents/...

Bernd_Stein

von Bernd S. (Firma: Anscheinend Corner-Cases ;-)) (bernd_stein)


Lesenswert?

Hannes Lux schrieb:
> ...
> Du suchst die ultimative Formel. Eigentlich reicht ja der Dreisatz.
> Überlege Dir, was Dein Dispay bei einem ADC-Wert von 0 und 1023 anzeigen
> soll und berechne daraus den Skalierungsfaktor. Ist dieser gebrochen, so
> erweitere den Bruch um 256 und wirf das untere Byte des Ergebnisses weg,
> was einer Division durch 256 gleichkommt, aber keine Rechenzeit kostet.
> ...
>
Diesen Abschnitt muß ich erstmal mit der Hilfe des AVR Tutorials : ADC 
verarbeiten.

http://www.mikrocontroller.net/articles/AVR-Tutorial:_ADC

Nun, ich denke die Tabelle will mir was sagen, das ich im Moment noch 
nicht verstehe. Die Beziehung zwischen Eingangsspannung und Ausgangswert
( Correlation Between Input Voltage and Output Codes ) ist zwar die 
Überschrift, dennoch ist mir nicht klar worauf mich die Tabelle 
hinweisen soll.

Zur Zeit denke ich :

Mit einer 20ig fachen Verstärkung und einer Referenzspannung von 2,56V 
erhält man nicht 1024 unterschiedliche Ausgangswerte. Also erhöhe die 
Referenzspannung, bis die Auflösung reicht, um die maximale Anzahl der 
Schritte von 0 bis 1023 ausnutzen zu können.

Deshalb wäre es schön, falls jemand mir die Problemlösung wie 
geschildert zur Verfügung stellen könnte.


Wie lautet die Formel bei OpenOffice calc, die mir die Tabelle unten
vervollständigt. Mir ist aufgefallen das z.B. bei

VADCm +             VREF / GAIN = 1023

und

VADCm + (1023/1024) VREF / GAIN = 1023

das gleiche Ergebnis herauskommt. Nun wollte ich herausfinden wo dies
noch der Fall ist.
Falls dies nicht so einfach sein sollte, wo nach muß ich gezielt suchen 
?
Nach " Formel " brachte mich nicht weiter.


Table 44. Correlation Between Input Voltage and Output Codes
VADCn Read code Corresponding decimal value

VADCm +             VREF /GAIN     0x3FF     1023
VADCm + (1023/1024) VREF /GAIN     0x3FF     1023
VADCm + (1022/1024) VREF /GAIN     0x3FE     1022
... ... ...
VADCm + (1/1024)    VREF /GAIN     0x001        1
VADCm                              0x000        0

Die Tabelle ist auf Seite 100 zu finden.

http://www.atmel.com/dyn/resources/prod_documents/...

Bernd_Stein

Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail? Keine Anmeldung erforderlich!
Mit Google-Account einloggen
Noch kein Account? Hier anmelden.