prec控制精度(排除指数部分):对'f'、'e'、'E',它表示小数点后的数字个数;对'g'、'G',它控制总的数字个数 。如果prec 为-1,则代表使用最少数量的、但又必需的数字来表示f 。
go使用decimal在公司项目中看到关于钱的数据在接口展示、添加修改的各种情况下结构体中相应字段用的都是string类型 。觉得不太合理,因此查阅了一些资料 , 整理如下 。
在网上搜到一篇博客:
在程序计算中涉及到钱的时候,为什么要用Decimal而不是Float
博客中介绍,如果用float类型再转为decimal类型时会造成精度丢失 。转为string后再转为decimal则可以解决问题,保证精度 。看着好像是很完美的回答了我想要了解的问题,但仔细一看用的语言是python,于是我便亲自试了下:
结果确实如此,但看版本是2.7,我怀疑是不是python2.7版本落后 , 因此存在问题,于是又换了python3,再次测试:
结论依然是一样 。好吧,证实了 , 对于python确实应该先转为string再转为decimal 。
但是,python是这样,难道go也是这样吗,于是我又开始了进一步测试:
go中decimal使用第三方库
这里是直接用float64转为decimal,并没有通过string中转,结果输出如下:
乍一看 , 看着好像是精度丢失了似的,但是对比后我们发现,float64和decimal前后都是一致的,也就是说float64转为decimal之后,保持了原样 。那些看起来小数点后位数很多的结果,是因为float64浮点类型计算产生的问题 , 跟转换并没有关系 。
为了验证这一结论,我又写了下面的测试:
不使用浮点类型相加,而用decimal类型相加,这样输出结果果然没问题了:
因此我们可以得出结论:对于go语言 , 在把float转换为decimal类型时,并不需要像python一样通过string中转,也依然可以保持精度 。进一步,我们也可以想到上面的问题,对于钱,在结构体字段中,我们完全可以直接使用float类型,并不需要用string类型 。而且好处时,使用float数值类型,无论对于前端还是后端,在进行数值范围验证的时候 , 会更方便,不必把string转为float后再验证了 。
上面提到了decimal包,我们这里简单看下 , 里面的常用的方法:
定义decimal的几种方式:
decimal数值运算
比较:
我们再看下浮点精度运算不准确的原因,这篇文章讲解的比较细
浮点精度(float、double)运算不精确的原因
精度运算不准确这是为什么呢?我们接下来就需要从计算机所有数据的表现形式二进制说起了 。如果大家很了解二进制与十进制的相互转换 , 那么就能轻易的知道精度运算不准确的问题原因是什么了 。
接下来我们看一个简单的例子 2.1 这个十进制数转成二进制是什么样子的 。
落入无限循环结果为 10.0001100110011........,我们的计算机在存储小数时肯定是有长度限制的,所以会进行截取部分小数进行存储 , 从而导致计算机存储的数值只能是个大概的值,而不是精确的值 。从这里看出来我们的计算机根本就无法使用二进制来精确的表示 2.1 这个十进制数字的值,连表示都无法精确表示出来 , 计算肯定是会出现问题的 。
1、为什么数值表示用decimal 不用double
2、在程序计算中涉及到钱的时候,为什么要用Decimal而不是Float
3、MySQL数据类型DECIMAL用法
4、浮点精度(float、double)运算不精确的原因
原生支持decimal类型的语言Go语言 。在Python中,符合原生且可以支持decimal类型的语言是Go语言 。decimal是指带固定精度和小数位数的数值数据类型 , 数据就是数值,数据有很多种,最简单的就是数字 。
推荐阅读
- vr素材直播间,直播vr效果
- 苹果其他安卓手表推荐,安卓手机使用苹果手表办法
- 小程序热更新不审核,小程序更新后需要重新审核发布吗
- 虎牙直播转播到抖音直播,虎牙可以转播别人的直播内容吗
- ios怎么用QQ购物,苹果手机买东西怎么付款
- 苹果手机怎么把home键,苹果手机怎么把home键放到桌面
- 清除net安装信息,net怎么卸载干净
- linux查进程启动命令 linux查看启动进程
- flutter绘制扇形,flutter绘制流程