浮点数在计算机中采用IEEE 754标准存储，通过符号位、指数位和尾数位组合表示，这种设计必然导致精度有限，任何十进制小数都可能无法精确存储，误差是先天性的。
浮点数存储为什么有误差？
要理解这个根深蒂固的问题，得先看清浮点数在内存里到底长什么样，计算机不认识十进制，它只认二进制，当我们把一个像0.1这样简单的十进制小数塞进内存，背后其实经历了一场“翻译”和“妥协”。
从哪里来？符号位、指数位、尾数位
IEEE 754标准是当前所有主流CPU和语言遵循的浮点数存储规范,它把一个浮点数拆成三部分：
- 符号位决定正负，0为正，1为负,只占1位。
- 指数位用移码表示，负责记录数量级，单精度float用8位,双精度double用11位。
- 尾数位存储有效数字的小数部分，隐含一个整数1，float尾数23位,double尾数52位。
举个例子，把十进制数18.75转成二进制是10010.11，科学计数法写成1.001011×2^4，在float里，符号位0，指数位存4加上偏移量127得到131，尾数位只存小数点后的001011，后面补零，整个过程没有任何丢失，但一旦遇到0.1,局面就变了。
二进制无法精确表示所有十进制小数
1的二进制展开是0.0001100110011……无限循环，尾数位只有23位（float）或52位（double），必须截断，所以存进去的0.1并不是真正的0.1，而是一个极其接近的近似值。这就是误差的源头不是计算机算错了，而是它根本没存对。
1+0.2≠0.3的根源
每次计算都会引入新的截断误差，多次累加后偏差就会被放大，0.1和0.2各自已经带误差，加法结果再截断，最终离0.3差了一点点，在几乎所有编程语言里验证这句话，结果都是false。这不是语言bug，而是底层硬件设计决定的。
浮点数精度丢失怎么办？
既然误差无法避免，就要学会“绕路走”。
- 对精度要求高的场景，比如金融计算，直接放弃浮点数，改用十进制定点数或整数（以分、厘为单位）。
- 普通科学计算，能用double就不用float，double的52位尾数提供了约15–16位十进制有效数字,大部分场景足够。
- 比较两个浮点数时，约定一个极小阈值（epsilon），判断两者差的绝对值是否小于这个阈值,而不是直接比较相等。
float和double到底有什么区别？
这是开发者在选型时最常纠结的问题，两者遵循相同的IEEE 754标准，但位宽不同，直接导致精度、范围和性能的差异。
精度与范围对照
| 类型 | 总位数 | 指数位 | 尾数位 | 有效十进制位数 | 取值范围 |
|---|---|---|---|---|---|
| float | 32 | 8 | 23 | 约7位 | ±1.4×10⁻⁴⁵到±3.4×10³⁸ |
| double | 64 | 11 | 52 | 约15–16位 | ±4.9×10⁻³²⁴到±1.8×10³⁰⁸ |
float的7位有效数字，在日常统计中可能够用，但一旦涉及累积运算或高精度要求，偏差会迅速累积,double的15位有效数字则能覆盖绝大多数场景。
内存与速度的实际差异
- 内存占用：float占4字节，double占8字节，在图形渲染、机器学习模型参数等上亿规模的场景，使用float可以节省一半内存和带宽，显著提升吞吐量。游戏引擎中大量使用float，因为精度不敏感，性能优先。
- 运算速度：现代CPU对double的浮点运算速度与float几乎持平，但在某些低功耗设备或GPU深度学习中，float运算更快且功耗更低。移动端开发建议优先考虑float，前提是精度允许。
行业应用共识
- 金融、会计系统：浮点数根本不用,改用十进制类型或整数。
- 科学计算、仿真模拟：几乎全用double，因为精度优先,内存占用不是瓶颈。
- 图形学、游戏开发：基本用float，位置、颜色、法线等数据7位小数足够。
- AI模型推理：如今流行混合精度训练，用float16和float32,float32就是标准单精度。
如何选择？
一句话总结：精度敏感选double，内存敏感选float，保险起见上double。 如果还有疑虑，可以查阅你所用语言官方文档对浮点类型的实现说明，对比后在测试环境跑一遍典型数据,看误差是否在可接受范围内。
浮点数比较的正确方法
直接拿两个浮点数判断是否相等，是新手最容易踩的坑，因为即使数学上完全相等的量，经过不同路径计算后,内存中的二进制表示也可能有细微差异。
为什么不能用==比较
假设你计算了a = 0.1 + 0.2，b = 0.3，在你的代码里，a和b在内存里分别是0.30000000000000004和0.3，二进制表示不同，==自然返回false。直接比较等于把数学期望强加给了一个有误差的近似系统。
绝对误差 vs 相对误差
- 绝对误差：判断两个数差的绝对值是否小于某个极小值，比如1e-9,适合数值在0附近或量级一致的场景。
- 相对误差：考虑数值本身的量级，用差除以较大值再判断，适合跨量级比较，比如1e10和1e10+1，绝对误差是1,但相对误差很小。
实际工程中常见做法是：先取绝对值差，再与一个自定义的epsilon做比较，epsilon的大小取决于你的应用场景，图形学常用1e-5，物理模拟用1e-6，财务计算则根本不用浮点。
实际代码示例
在Python中,可以这样写：
def is_close(a, b, rel_tol=1e-9, abs_tol=0.0):
return abs(a - b) <= max(rel_tol max(abs(a), abs(b)), abs_tol)
在C++中，std::abs(a – b) < std::numeric_limits
行业共识： 不要依赖单一常量epsilon，最好根据业务数据范围动态调整，如果条件允许，用语言或库提供的专用比较函数，比如Python的math.isclose()。
浮点数存储常见问题解答
浮点数存储为什么有误差？
因为计算机以二进制存储，而很多十进制小数（如0.1、0.2）在二进制中是无限循环小数，尾数位有限，只能截断近似，导致存储值与真实值之间存在微小差异，这是IEEE 754标准本身的物理限制,所有现代计算机和编程语言都无法避免。
如何解决float精度问题？
判断精度是否真的不够用，如果运算结果的有效数字在7位以内，且不涉及大量累加，float完全可以胜任，如果精度无法满足，有两种主流方案：一是升级为double，获得15–16位有效数字；二是放弃浮点数，改用十进制定点数或整数，在数据输入时放大为整数，运算后缩小还原，金融系统普遍采用后者,因为账目必须精确到分。
为什么银行系统不用浮点数？
银行对金额的精度要求是绝对的，每一分钱都不能错，浮点数的近似行为会导致舍入误差，在累计交易、利息计算中产生不可控的账目偏差，据行业共识，金融系统必须使用十进制类型或整数，以“分”或“厘”为单位存储，确保每一次加减都精确无误，浮点数适合科学计算和图形学,但不适合纯十进制精确运算的场合。
理解浮点数的存储原理，能帮你避免很多编程中的坑，误差是常态,正确比较和选择类型才是关键。
首发原创文章，作者：世雄 - 原生数据库架构专家，如若转载，请注明出处：https://idctop.com/article/503177.html
