Hallo zusammen, wie lautet die Formel bei OpenOffice calc, die mir die Tabelle unten vervollständigt. Mir ist aufgefallen das z.B. bei VADCm + VREF / GAIN = 1023 und VADCm + (1023/1024) VREF / GAIN = 1023 das gleiche Ergebnis herauskommt. Nun wollte ich herausfinden wo dies noch der Fall ist. Fall dies nicht so einfach sein sollte, wo nach muß ich gezielt suchen ? Nach " Formel " brachte mich nicht weiter. Table 44. Correlation Between Input Voltage and Output Codes VADCn Read code Corresponding decimal value VADCm + VREF /GAIN 0x3FF 1023 VADCm + (1023/1024) VREF /GAIN 0x3FF 1023 VADCm + (1022/1024) VREF /GAIN 0x3FE 1022 ... ... ... VADCm + (1/1024) VREF /GAIN 0x001 1 VADCm 0x000 0 Die Tabelle ist auf Seite 100 zu finden. http://www.atmel.com/dyn/resources/prod_documents/... Bernd_Stein
Die Darstellung der Ergebnisse ist so formatiert, dass keine Stellen hinter dem Komma angezeigt werden. Daher wird gerundet. Wenn Du die Formatierung änderst (mehrere Stellen hinter dem Komma), siehst Du das genauere Ergebnis und damit die Größe des Fehlers, den die Rundung macht. Ich hoffe, das war Deine Frage Gruß Dietrich
Gast
#2483720
Hi >das gleiche Ergebnis herauskommt. Nun wollte ich herausfinden wo dies >noch der Fall ist. Das kommt nur deshalb zweimal vor weil alles was >=VADCm + (1023/1024) VREF /GAIN den Wert $3FF ergibt. Und <=VADCm ergibt immer Null. Wozu braucht man da noch eine Formel? MfG Spess
Dietrich L. schrieb: > Die Darstellung der Ergebnisse ist so formatiert, dass keine Stellen > hinter dem Komma angezeigt werden. Daher wird gerundet. > Wenn Du die Formatierung änderst (mehrere Stellen hinter dem Komma), > siehst Du das genauere Ergebnis und damit die Größe des Fehlers, den die > Rundung macht. > > Ich hoffe, das war Deine Frage Gruß Dietrich > Danke für die Antwort. Leider ist meine Frage damit nicht ganz beantwortet. Ich möchte nämlich herausfinden, an welchen Stellen das Runden zum gleichen Ergebnis führt. Um nicht tausende von Rechnungen selber zu machen, dachte ich das dies mit OpenOffice Calc sicherlich erheblich schneller geht. Ich weiß nur nicht welche Formel bzw. Gleichung ich dafür benutzen soll. Da muß ja irgendwie wie eine FOR...NEXT Schleife ( so wie man dies zB. in BASIC macht ) ablaufen. Wobei die Variable von 0 bis 1023 zählt und gleichzeitig den Zählumfang bildet. VADCm + ( "VARIABLE" / 1024) VREF /GAIN 0x001 1 Bernd_Stein
Du denkst wieder viel zu kompliziert und stehst Dir selbst im Wege... Du suchst die ultimative Formel. Eigentlich reicht ja der Dreisatz. Überlege Dir, was Dein Dispay bei einem ADC-Wert von 0 und 1023 anzeigen soll und berechne daraus den Skalierungsfaktor. Ist dieser gebrochen, so erweitere den Bruch um 256 und wirf das untere Byte des Ergebnisses weg, was einer Division durch 256 gleichkommt, aber keine Rechenzeit kostet. ...
spess53 schrieb: >... > Das kommt nur deshalb zweimal vor weil alles was > > >=VADCm + (1023/1024) VREF /GAIN > > den Wert $3FF ergibt. Und <=VADCm ergibt immer Null. Wozu braucht man > da noch eine Formel? > Ich weiß ich drücke mich etwas umständlich aus. Aber ich denke die Tabelle deutet an, das es 1024 " verschiedene " Werte gibt. Von 0 bis 1023. Table 44. Correlation Between Input Voltage and Output Codes VADCn Read code Corresponding decimal value VADCm + VREF /GAIN 0x3FF 1023 VADCm + (1023/1024) VREF /GAIN 0x3FF 1023 VADCm + (1022/1024) VREF /GAIN 0x3FE 1022 ... ... ... VADCm + (1/1024) VREF /GAIN 0x001 1 VADCm 0x000 0 Die Tabelle ist auf Seite 100 zu finden. http://www.atmel.com/dyn/resources/prod_documents/... Bernd_Stein
Hannes Lux schrieb: > ... > Du suchst die ultimative Formel. Eigentlich reicht ja der Dreisatz. > Überlege Dir, was Dein Dispay bei einem ADC-Wert von 0 und 1023 anzeigen > soll und berechne daraus den Skalierungsfaktor. Ist dieser gebrochen, so > erweitere den Bruch um 256 und wirf das untere Byte des Ergebnisses weg, > was einer Division durch 256 gleichkommt, aber keine Rechenzeit kostet. > ... > Diesen Abschnitt muß ich erstmal mit der Hilfe des AVR Tutorials : ADC verarbeiten. http://www.mikrocontroller.net/articles/AVR-Tutorial:_ADC Nun, ich denke die Tabelle will mir was sagen, das ich im Moment noch nicht verstehe. Die Beziehung zwischen Eingangsspannung und Ausgangswert ( Correlation Between Input Voltage and Output Codes ) ist zwar die Überschrift, dennoch ist mir nicht klar worauf mich die Tabelle hinweisen soll. Zur Zeit denke ich : Mit einer 20ig fachen Verstärkung und einer Referenzspannung von 2,56V erhält man nicht 1024 unterschiedliche Ausgangswerte. Also erhöhe die Referenzspannung, bis die Auflösung reicht, um die maximale Anzahl der Schritte von 0 bis 1023 ausnutzen zu können. Deshalb wäre es schön, falls jemand mir die Problemlösung wie geschildert zur Verfügung stellen könnte. Wie lautet die Formel bei OpenOffice calc, die mir die Tabelle unten vervollständigt. Mir ist aufgefallen das z.B. bei VADCm + VREF / GAIN = 1023 und VADCm + (1023/1024) VREF / GAIN = 1023 das gleiche Ergebnis herauskommt. Nun wollte ich herausfinden wo dies noch der Fall ist. Falls dies nicht so einfach sein sollte, wo nach muß ich gezielt suchen ? Nach " Formel " brachte mich nicht weiter. Table 44. Correlation Between Input Voltage and Output Codes VADCn Read code Corresponding decimal value VADCm + VREF /GAIN 0x3FF 1023 VADCm + (1023/1024) VREF /GAIN 0x3FF 1023 VADCm + (1022/1024) VREF /GAIN 0x3FE 1022 ... ... ... VADCm + (1/1024) VREF /GAIN 0x001 1 VADCm 0x000 0 Die Tabelle ist auf Seite 100 zu finden. http://www.atmel.com/dyn/resources/prod_documents/... Bernd_Stein