前言
两个相近的浮点数之间在某一个精度范围内,认为是相等的
例如 double a = 0.10001; double b = 0.1; 两个小数进行比较,精度在0.0000001
方案
通过采用if ( fabs(a-b) < 1e-7), 说明a,b是比较的两个数字,1e-7用小数表示0.0000001
2024-04-04 16:44:47
前言
两个相近的浮点数之间在某一个精度范围内,认为是相等的
例如 double a = 0.10001; double b = 0.1; 两个小数进行比较,精度在0.0000001
方案
通过采用if ( fabs(a-b) < 1e-7), 说明a,b是比较的两个数字,1e-7用小数表示0.0000001
下一篇:浮点数相等的判别