浮点数精度损失原因
-
浮点数在计算机存储表示是如何实现的,为什么
浮点数在计算机中采用IEEE 754标准存储,通过符号位、指数位和尾数位组合表示,这种设计必然导致精度有限,任何十进制小数都可能无法精确存储,误差是先天性的,浮点数存储为什么有误差?要理解这个根深蒂固的问题,得先看清浮点数在内存里到底长什么样,计算机不认识十进制,它只认二进制,当我们把一个像0.1这样简单的十进……
浮点数在计算机中采用IEEE 754标准存储,通过符号位、指数位和尾数位组合表示,这种设计必然导致精度有限,任何十进制小数都可能无法精确存储,误差是先天性的,浮点数存储为什么有误差?要理解这个根深蒂固的问题,得先看清浮点数在内存里到底长什么样,计算机不认识十进制,它只认二进制,当我们把一个像0.1这样简单的十进……