登录
原创

Python中的浮点数和小数

专栏Python语言
发布于 2021-01-14 阅读 512
  • Python
原创

简介

float类型,即浮点数,是Python内置的对象类型;decimal类型,即小数类型,则是Python的标准库之一decimal提供的对象类型,也是内置的。了解decimal类型的最佳资料,就是它的官方文档:https://docs.python.org/3/library/decimal.html。

在浮点数运算中,总会有误差的,这一点在下面会显示出来。要解决浮点数运算的误差问题,decimal所创建的小数类型,则是一种比较好的选择。

float类型

用浮点数运算,好处是方便、而且速度快。浮点数会给出你所声明的数字的近似值。例如,如果输出的是带有18位小数的0.1,我实际上得到的不是0.1,而是一个近似值。

>>> print(f"{0.1:.18f}")
0.100000000000000006

类似地,在执行操作时,例如使用浮点数做加法,也会得到一个近似值。这个过程中的代码可能令人困惑,如下所示:

>>> .1 + .1 + .1 == .3
False
>>> .1 + .1 + .1
0.30000000000000004

直观地说,这个加法是有意义的,根据你的数学知识,肯定会认为上面第一个表达式应该返回True,然而,一定要注意,浮点数是你所创建数字的近似值——只不过有时候近似的程度很高,以至于没有差别。由于这个浮点数是近似值,导致返回值是False。这说明了浮点数存在一个大问题,即缺乏可靠的相等性测试。为了在不使用decimal类型的情况下修正这个等式检验,我们可以用四舍五入。

>>> round(.1 + .1 + .1, 10) == round(.3, 10)
True
>>> round(.1 + .1 + .1, 10)
0.3

在本例中,我们对浮点数进行了四舍五入,以防止出现任何精度问题。如果你经常在代码库中使用浮点数和四舍五入,就应该考虑是不是可以使用decimal类型了。

decimal类型

如果需要精确计算,比如财务计算,就必须使用decimal类型——小数类型。不过,你也要关注一下decimal类型的精度优势和float类型的性能优势,根据具体要求,做出恰当的选择。

如果把前面示例中的浮点数改为小数类型,看看效果如何:

>>> from decimal import Decimal
>>> print(f"{Decimal('0.1'):.18f}")
0.100000000000000000
>>> Decimal('.1') + Decimal('.1') + Decimal('.1') == Decimal('.3')
True

这里使用decimal类型,就可以防止浮点数带来的细微误差。如果注意观察,你会看到小数使用字符串进行实例化。如果不这样,比如下面的例子,在实例化时,如果使用Decimal(0.01)创建一个小数实例,就会导致浮点数精度问题。

>>> from decimal import Decimal
>>> Decimal(0.01) == Decimal("0.01")
False

在本例中,我们期望这些小数值相等,但由于浮点数的精度问题,这一小数相等测试返回False。看看每个小数,你就知道为什么了。

>>> Decimal(0.01)
Decimal('0.01000000000000000020816681711721685132943093776702880859375')
>>> Decimal("0.01")
Decimal('0.01')

以浮点数为参数建立的Decimal实例,在技术上不是0.01,这将导致相等测试为False。所有小数都应该使用字符串创建,以防止精度问题。否则,我们就会失去小数的精度优势,并产生微妙的错误。

总结

decimal类型,能够让计算更精确,虽然要损失点性能。这就看你需要什么了。如果强调防止浮点数精度问题带来的细微错误,使用小数利大于弊。一定要注意,创建实例的时候,参数要用字符串。

参考:https://www.laac.dev/blog/float-vs-decimal-python/


欢迎关注微信公众号:老齐教室

评论区

老齐
16粉丝

敲代码

1

0

0

举报