python基础|float精度问题***不可将浮点变量用“==”或“！=”与数字比较
C/C++中float精度问题
float f = 0.00000001f;
if (f == 0.00000001f)
{
std::cout << "不可将浮点变量用“==”或“！=”与数字比较" << endl;
}
else
{
std::cout << "应该设法转化成“>=”或“<=”此类形式" << endl;
}
float d1, d2, d3, d4, d5;
d1 = 194268.04855f;
d2 = 194268.0321f;
d5 = 194268.0321f;
d4 = 0.02f;
printf("%f - %f\n", d1, d2);
d3 = d1 - d2;
std::cout << d1 << endl;
std::cout << d2 << endl;
std::cout << d3 << endl;
if (d5 ==d2)
{
std::cout << "d5==d2" << endl;
}
if (d3 > d4)
printf(">0.02\n");
else if (d3 < d4)
printf("<0.02\n");
else
printf("=0.02\n");
printf("%f - %f = %f \n", d1, d2, d3);
结果：
文章图片
python中float精度问题
d1 = 194268.04855
d2 = 194268.0321
d4 = 0.1645
d3 = d1 - d2
if d3 == d4:
print("d3:{}==d4:{}".format(d3, d4))
else:
print("d3:{} != d4:{}".format(d3, d4))
print("%f - %f = %f %f\n", d1, d2, d3, d4);
结果：
d3:0.01644999999552965 != d4:0.1645
%f - %f = %f %f194268.04855 194268.0321 0.01644999999552965 0.1645【python基础|float精度问题***不可将浮点变量用“==”或“！=”与数字比较】可以使用扩大倍数换成int 然后在进行缩小整数来进行换算
推荐阅读
- python学习之|python学习之 实现QQ自动发送消息
- 逻辑回归的理解与python示例
- python自定义封装带颜色的logging模块
- 【Leetcode/Python】001-Two|【Leetcode/Python】001-Two Sum
- Python基础|Python基础 - 练习1
- Python爬虫|Python爬虫 --- 1.4 正则表达式（re库）
- Python（pathlib模块）
- python青少年编程比赛_第十一届蓝桥杯大赛青少年创意编程组比赛细则
- Java|Java基础——数组
- Python数据分析(一)（Matplotlib使用）