python decimal.quantize()参数rounding的各参数解释与行为

摘要:
起初,我实际上被ROUND_FLOOR和ROUND_DOWN弄糊涂了。我只看到了一批性能不同的文档,但我觉得我已经列出了一些以前没有注意到的事情。圆形天花板和圆形地板:天花板在没有进位的情况下超过5,因为它往往是正的和无限的。FLOOR输入了一点,以便始终变小。比较最后一位不超过5的另一组数据:输入:fromdecmalinport*x=Decimalprintxprint.quantizeprintx.quantizeprintx.quantiqueprintx.量化器intx.quantitzeprintx量化器输出:-5.8598744785-5.85987-5.85987-5.59877-5.85988-5.85987ROUND_ HALF_ EVENT和ROUND_ HARF_ DOWN:EVENT是量化器的默认设置,这可以通过getcontext()获得。EVENT未舍入,因为无法舍入,DOWN也未舍入。

我最开始其实是由于疑惑ROUND_FLOOR和 ROUND_DOWN的表现区别才看了一波文档,但是感觉拉出一票以前没有留意过的东西。

贴一个decimal文档里面的解释:

ROUND_CEILING (towards Infinity),
ROUND_DOWN (towards zero),
ROUND_FLOOR (towards -Infinity),
ROUND_HALF_DOWN (to nearest with ties going towards zero),
ROUND_HALF_EVEN (to nearest with ties going to nearest even integer),
ROUND_HALF_UP (to nearest with ties going away from zero), or
ROUND_UP (away from zero).
ROUND_05UP (away from zero if last digit after rounding towards zero would have been 0 or 5; otherwise towards zero)

直接阅读上面的解释十分抽象,下面我结合例子来解释一下在正负数不同的情况下 他们究竟有着什么样的行为

首先给出一组负数的后一位超过5的数据:

input:
from decimal import *

x = Decimal('-3.1415926535') + Decimal('-2.7182818285')
print x
print x.quantize(Decimal('1.0000'), ROUND_HALF_EVEN)
print x.quantize(Decimal('1.0000'), ROUND_HALF_DOWN)
print x.quantize(Decimal('1.0000'), ROUND_CEILING)
print x.quantize(Decimal('1.0000'), ROUND_FLOOR)
print x.quantize(Decimal('1.0000'), ROUND_UP)
print x.quantize(Decimal('1.0000'), ROUND_DOWN)

output:
-5.8598744820
-5.8599
-5.8599
-5.8598
-5.8599
-5.8599
-5.8598

ROUND_HALF_EVENT 和 ROUND_HALF_DOWN:EVENT是quansize的默认设置值,可以通过getcontext()得到,EVENT四舍五入进了一位,DOWN为接近最近的0进了一位。

ROUND_CEILING 和 ROUND_FLOOR:CEILING超过5没有进位是因为它倾向正无穷,FLOOR为了总是变得更小所以进了一位。

ROUND_UP 和 ROUND_DOWN:UP始终进位,DOWN始终不会进位。。

再多对比一组后一位没有超过5的数据:

input:
from decimal import *

x = Decimal('-3.14159265') + Decimal('-2.7182818285')
print x
print x.quantize(Decimal('1.00000'), ROUND_HALF_EVEN)
print x.quantize(Decimal('1.00000'), ROUND_HALF_DOWN)
print x.quantize(Decimal('1.00000'), ROUND_CEILING)
print x.quantize(Decimal('1.00000'), ROUND_FLOOR)
print x.quantize(Decimal('1.00000'), ROUND_UP)
print x.quantize(Decimal('1.00000'), ROUND_DOWN)

output:
-5.8598744785
-5.85987
-5.85987
-5.85987
-5.85988
-5.85988
-5.85987

ROUND_HALF_EVENT 和 ROUND_HALF_DOWN:EVENT是quansize的默认设置值,可以通过getcontext()得到,EVENT由于达不到四舍五入所以不进位,DOWN同样也不进位。

ROUND_CEILING 和 ROUND_FLOOR:CEILING倾向正无穷不进位,FLOOR即使没有超过5,但是为了总是变得更小进了一位。

ROUND_UP 和 ROUND_DOWN:UP始终进位,DOWN始终不会进位。。

正数部分后面数大于5的情况:

input:
y = Decimal('3.1415926535') + Decimal('2.7182818285')
print y
print y.quantize(Decimal('1.0000'), ROUND_HALF_EVEN)
print y.quantize(Decimal('1.0000'), ROUND_HALF_DOWN)
print y.quantize(Decimal('1.0000'), ROUND_CEILING)
print y.quantize(Decimal('1.0000'), ROUND_FLOOR)
print y.quantize(Decimal('1.0000'), ROUND_UP)
print y.quantize(Decimal('1.0000'), ROUND_DOWN)

output:
5.8598744820
5.8599
5.8599
5.8599
5.8598
5.8599
5.8598

ROUND_HALF_EVENT 和 ROUND_HALF_DOWN:EVENT是quansize的默认设置值,可以通过getcontext()得到,EVENT由于达到四舍五入所以进位,DOWN同样进位。

ROUND_CEILING 和 ROUND_FLOOR:CEILING正数始终进位,FLOOR在正数则始终不会进位。

ROUND_UP 和 ROUND_DOWN:UP始终进位,DOWN始终不会进位。

正数部分后面数小于5的情况:

input:
y = Decimal('3.1415926535') + Decimal('2.7182818285')
print y
print y.quantize(Decimal('1.00000'), ROUND_HALF_EVEN)
print y.quantize(Decimal('1.00000'), ROUND_HALF_DOWN)
print y.quantize(Decimal('1.00000'), ROUND_CEILING)
print y.quantize(Decimal('1.00000'), ROUND_FLOOR)
print y.quantize(Decimal('1.00000'), ROUND_UP)
print y.quantize(Decimal('1.00000'), ROUND_DOWN)

output:
5.8598744820
5.85987
5.85987
5.85988
5.85987
5.85988
5.85987

ROUND_HALF_EVENT 和 ROUND_HALF_DOWN:EVENT是quansize的默认设置值,可以通过getcontext()得到,EVENT由于没有达到四舍五入所以不进位,DOWN同样不进位。

ROUND_CEILING 和 ROUND_FLOOR:CEILING正数始终进位,FLOOR在正数则始终不会进位。

ROUND_UP 和 ROUND_DOWN:UP始终进位,DOWN始终不会进位。

总结:

其实这里我们通过上面一组例子可以发现,正数的行为非常可预期也非常简单,负数的情况稍复杂,有些函数就是设计为负数在某些情况中使用的。正数中无法重现的ROUND_DOWN和ROUND_FLOOR的区别,ROUND_DOWN是无论后面是否大于5都不会管保持原状,而Floor在正数中的行为也是如此,但是在负数中为了倾向无穷小,所以无论是否大于5,他都会变得更小而进位。反而ROUND_UP和ROUND_DOWN的行为是最可预期的,那就是无论后面数大小,UP就进位,DOWN就始终不进位。

Reference:

https://docs.python.org/2/library/decimal.html#decimal.getcontext    decimal官方文档2.7.11

免责声明:文章转载自《python decimal.quantize()参数rounding的各参数解释与行为》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇SQL Server 2005 Express Edition 傻瓜式安装微信小程序之Flex布局下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

App随机测试之Monkey和Maxim

Monkey是我们app测试熟知的一个工具,monkey可以随机的产生很多事件来操控app,所以可以用来做压力测试、稳定性测试 常用的几个选项:   -p 指定测试的包   -s 种子,以后回溯的时候只要运行相同的种子就可以回溯相同的monkey操作步骤了,常用来提供给开发复现问题、开发修复完毕以后验证是否修复完成   -v 日志 -v -vv 【-vv日...

monkey日志管理

日志管理作用 Monkey日志管理是Monkey测试中非常重要的一个环节,通过日志管理分析,可以获取当前测试对象在测试过程中是否会发生异常,以及发生的概率,同时还可以获取对应的错误信息,帮助开发定位和解决问题。 monkey日志保存方法 保存在PC中 保存在手机上 标准流和错误流分开保存 保存在PC中 >adb shell monkey [op...

Android Touch事件原理加实例分析

       Android中有各种各样的事件,以响应用户的操作。这些事件可以分为按键事件和触屏事件。而Touch事件是触屏事件的基础事件,在进行Android开发时经常会用到,所以非常有必要深入理解它的原理机制。        Android Touch事件原理描述        一个最简单的屏幕触摸动作触发了一系列Touch事件:ACTION_DOW...

Visual studio之C#实现数字输入模拟键盘

背景 当前做的一个上位机需运行在工控机上,众所周知,工控机不可能配备键盘,只能是触屏,而我当前的上位机需要输入参数,于是之前的解决办法既是调用Windows自带的OSK.exe虚拟键盘,方法在我的另一外一篇博客Visual studio之C# 调用系统软键盘(外部"osk.exe")中已详述,但这种做法有两个致命缺陷,一是由于调用了外部.exe程序,国产杀...

【转】 中兴OLT-C300常用命令

中兴OLT C300show running-config (加载各种板卡)show gpon onu uncfg (查看OLT所有未配置的ONU)show gpon onu uncfg gpon-olt_1/3/2 (查看端口下未配置的ONU)show gpon onu state gpon-olt_1/2/1 (查看端口下ONU状态)show mac...

xshell各个版本下载

官网下载 怎么从官网下载Xshell 5 或者其他版本呢? 下面我们详细步骤说明! 1)首先我们打开netsarang官网, 点击下载Xshell 6 !填写邮箱等信息! http://www.netsarang.com/download/down_form.html?code=622 2)然后查看邮箱邮件,可见一个Xshell 6 下载的邮件!里面有下载...