Verblüffung über Excel
Wenn ich in Excel folgende Berechung durchführe, erhalte ich als Ergebnis +0.65-0.6=0.05 «Wahr». Bei folgender Rechnung erhalte ich als Ergebnis «falsch»: +1.65-1.6=0.05 Das begreife ich nicht!
WALTER RUBISCHUNG, VIA INTERNET
Dieses Phänomen ist kein Fehler – sondern eine Folge der Technik, die Excel fürs Speichern von Gleitkomma-Werten benutzt. In aller Regel machen sich die Rundungsungenauigkeiten nicht bemerkbar – beim Arbeiten mit logischen Operatoren können sie jedoch zu unerwarteten, sprich falschen Resultaten führen. Wenn Sie «Wahr/Falsch»-Auswertungen vornehmen, müssen Sie Bescheid wissen. Microsoft liefert auf unten stehender Seite Erläuterungen. Um den Effekt zu umgehen, verwenden Sie entweder die Rundungsfunktion, Oder Sie gehen über «Extras > Optionen» und aktivieren beim Reiter «Berechnungen» die Option «Genauigkeit wie angezeigt».
http://support.microsoft.com/default.aspx?scid=kb;de;78113 (schü.)

