换算结果差一点?先弄清误差与精度
在计算小站换算长度时,有人输入 1 英寸,得到 2.54 厘米;再输入 2.54 厘米换回英寸,却显示 0.999998 英寸。这不是工具坏了,而是换算过程里存在误差。误差是结果与真实值之间的差,精度是你能把结果表达到多细。两者相关,但不是一回事。
误差分两类。系统误差来自方法或工具本身,比如某把尺子刻度偏了,每次量都多 0.1 毫米;随机误差来自读数波动,同一物体量五次可能得到 10.02、10.01、10.03 厘米。换算工具里最常见的系统误差是近似公式,比如把 1 英里近似为 1.609 公里,长期累加就会偏离。
精度常被误解为“小数点后位数越多越准”。1.234567 米看起来精确,但如果原始数据只精确到 0.1 米,后面的数字就是无效的。有效数字才是判断精度的实用标准:从左边第一个非零数字数起,到末位为止。0.00450 有三个有效数字,4、5、0。
举个具体例子。你用卷尺量得桌面长 1.20 米,宽 0.85 米,计算面积。1.20 有三位有效数字,0.85 有两位,乘积 1.02 平方米。按规则,结果应保留两位有效数字,写成 1.0 平方米。多写一位“2”会让人误以为测量精度更高,实际并不成立。
舍入也会引入误差。常见的“四舍五入”在金融和统计中有时被“四舍六入五成双”替代,目的是减少长期偏差。例如 0.125 保留两位小数,四舍五入得 0.13,银行家舍入得 0.12,因为 2 是偶数。计算小站的多数工具默认四舍五入,遇到批量汇总时,可以手动选择舍入方式。
更隐蔽的是浮点数误差。计算机用二进制表示小数,0.1 无法精确存储,只能存一个近似值。所以在 JavaScript 里 0.1 + 0.2 得到 0.30000000000000004。换算工具出现类似长尾小数时,通常不是算法错误,而是浮点表示的限制。工程计算中会设置容差,比如差值小于 1e-9 就视为相等。
实用建议有三条。第一,先看输入数据的有效数字,输出不必超过它。第二,换算链越长,误差越容易累积,能一步算完就别拆成三步。第三,对结果做量级检查:把 5 公里换成英里,结果应在 3 附近,若出现 0.31 或 31,先怀疑单位选错,而不是怀疑精度。
误差无法完全消除,但可以管理。知道它从哪来、有多大、会不会累积,比盲目追求更多小数位更有用。下次在计算小站看到 0.999998 这样的结果,你可以先判断它是舍入、浮点还是输入精度造成的,再决定保留几位。