浮点数的视角
2024-10-18
文章探讨了计算机如何存储实数,并介绍了浮点数的概念。文章指出,由于计算机内存有限,无法精确存储无限的实数,因此需要进行近似。一种简单的解决方案是使用舍入法,将实数舍入到特定的小数位数。文章详细解释了绝对误差和相对误差的区别,并介绍了如何使用对数将绝对误差转换为相对误差。文章还阐述了浮点数实际上是对数空间中的定点数,并解释了为什么减法运算在浮点数运算中容易导致灾难性抵消。
22
未分类