0.1|0.1 + 0.2 != 0.3
原因
十进制转成二进制时,尾数最多只能保留53位,0.1和0.2转成二进制时,都是无限循环,会被截取。最后导致了精度丢失。
解决方法
补课
【0.1|0.1 + 0.2 != 0.3】浮点数转二进制
推荐阅读
- 科塔德综合征
- 周总结(10.5-10.11)
- 今日自我介绍,感恩所遇一切
- V-learn小西妈双语工程2017年03期144号谢思岩Carlos2017.10.21-10.22
- 10.23宜尽释前嫌
- 2020.12.8
- 本周复盘(2020.1.13-19)
- 360实修第二十二天|360实修第二十二天 - 草稿
- 2018.10.3
- 清心(181)2020.3.21阴星期六