l18230365

    1. 51单片机浮点运算误差问题 4/10205 51单片机 2011-08-19
      二进制小数的存储是对于大多数小数来说是一个趋近数。 精度跟你表示数值的范围有关,详细的精度大小可以参照C语言程序设计里数据类型对浮点数一章的描述。 其实精度没你说的那么差,我认为你所说的0.01是因为你检测方法有误导致认为精度就是这个。   譬如一个1.56的数值,浮点数存储之后是也许是 1.5600001,但也有可能是1.5599999,当你把数据取整用来显示的时候,你会取2位有效数字,可想而知,如果存储结果是第一种情况,那么你读到的数值是1.56,如是第二种你读到的结果是1.55,所以你理所当然的认为精度是0.01。   其实关于这个显示精度,我觉得比较好是做法就是,当你显示的精度需求是0.01时,你可以让浮点数加上0.001之后再取整,那么就是你想要是数字啦。但当你只是需要浮点数运算的时候,大可不必如此。 [ 本帖最后由 l18230365 于 2011-8-19 01:06 编辑 ]

最近访客

< 1/1 >

统计信息

已有47人来访过

  • 芯积分:--
  • 好友:--
  • 主题:--
  • 回复:1

留言

你需要登录后才可以留言 登录 | 注册


现在还没有留言