浮点数运算的时候必须先转化為二进制。例如数字105.01转化为二进制后是一个无限循环小数 <> .......<>里面是循环节有无限多个,在计算机存储的时候只能舍入所以浮点数运算一般是近似的。只要小数点后面的位数不大可以手工移动小数点转化为整数。虽然浮点数运算有误差但一般误差极微,采用四舍五入也鈳
在有些情况下没有这个问题,是因为:
有些时候转化正好不是无限循环小数或者是因为误差极小,在计算机显示的时候舍入(计算機显示的时候也要舍入一般内部运算位数大于显示位数)掉了
这种小概率事件,用的时间长了哪种语言都会出现这种情况。除非有一種语言运算位数和显示位数差距过大,这种误差总是在显示的时候被舍掉
浪淘金(北京)科技有限责任公司
公司地址: 北京市海淀区北三环西路甲18号大钟寺中坤广场E座805-2室
版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。