Sprawdzanie dokładności zaokrągleń dla liczb zmiennoprzecinkowych

Data publikacji: 2014-04-01 | Tagi:

Jednym z najłatwiejszych sposobów na sprawdzenie, czy mamy do czynienia z błędami zaokrągleń w przypadku liczb zmiennoprzecinkowych jest wykonanie prostego działania w shellu pythona:

from math import e, pi
(e**pi) - pi

gdzie e i pi to znane stałe, a ** to potęgowanie.

Jeśli wynik to 20, to nie ma problemu, jeśli natomiast w okolicach 19.9990999791, to właśnie zetknęliśmy się z błędem zaokrągleń liczb zmiennoprzecinkowych.

Jak temu zaradzić - napiszę w kolejnym poście.


Oceń ten post:
Podziel się:

comments powered by Disqus

IT w obrazkach: