Taschenrechner: Genauigkeit
- Ersteller Bluefirexp
- Erstellt am
Bluefirexp
Vice Admiral Special
- Mitglied seit
- 23.05.2002
- Beiträge
- 705
- Renomée
- 16
Hi,
ich habe folgendes Problem: die gängigen wissenschaftlichen Tachenrechner (z.B. von Casio) können nicht mit dem Windows-Taschenrechner mithalten. Oder: ich kenne ggf. die EInstellung nicht, ob das zu ändern.
Der Windows Taschenrechner kommt mit folgenden Nachkommastellen wunderbar klar: 0,99999999999999999939134
Er kommt mit insgesamt 32 Stellen und somit auch Neunen nach dem Komma klar.
Mein Casio rundet schon ab 11 Stellen auf 1. Ist das Soft-bzw. Hardwarebdingt (32 bit)? Gibt es Taschenrechner mit 32 bzw. sogar 64 bit? Danke Euch.
ich habe folgendes Problem: die gängigen wissenschaftlichen Tachenrechner (z.B. von Casio) können nicht mit dem Windows-Taschenrechner mithalten. Oder: ich kenne ggf. die EInstellung nicht, ob das zu ändern.
Der Windows Taschenrechner kommt mit folgenden Nachkommastellen wunderbar klar: 0,99999999999999999939134
Er kommt mit insgesamt 32 Stellen und somit auch Neunen nach dem Komma klar.
Mein Casio rundet schon ab 11 Stellen auf 1. Ist das Soft-bzw. Hardwarebdingt (32 bit)? Gibt es Taschenrechner mit 32 bzw. sogar 64 bit? Danke Euch.
MagicEye04
Grand Admiral Special
Mein TI-92 rundet das auch auf 1, es sind anscheinend sogar nur 8 Stellen.
Da in meinem ein 32bit Motorola 68000 steckt, gehe ich von Softwarebeschränkung aus.
Man kann auch auf 8bit Prozessoren mit 32bit rechnen, wenn man das will. Der ist dann zu 50% schon mit der Umrechnung beschäftigt, aber es geht.
Da in meinem ein 32bit Motorola 68000 steckt, gehe ich von Softwarebeschränkung aus.
Man kann auch auf 8bit Prozessoren mit 32bit rechnen, wenn man das will. Der ist dann zu 50% schon mit der Umrechnung beschäftigt, aber es geht.
enigmation
Admiral Special
Bei Casio kannst du dir die Bedienungsanleitung als PDF herunterladen:
In der Anleitung gibt es den Punkt Eingabebereiche.
Bei meinem fx-85 sieht das so aus:
In der Anleitung gibt es den Punkt Eingabebereiche.
Bei meinem fx-85 sieht das so aus:
Ähnliche Themen
