» 您尚未登录:请 登录 | 注册 | 标签 | 帮助 | 小黑屋 |


发新话题
打印

案桌居然这么NB????

二进制浮点数处理的问题,问题原因虽然不奇怪,但是软件作者居然没有处理,这就太奇怪了。


TOP

posted by wap, platform: SAMSUNG (T959)

0.01没错啊。搭车问下溪总装的是什么rom。我看看有没有刷机的必要。



TOP

posted by wap, platform: SAMSUNG (I9000)

0.01,我还以为有bug.


TOP

posted by wap, platform: SAMSUNG (i909)

0.01
三棒子又立功了?

TOP

0.009 arc

TOP

X10 0.0999999999999999

TOP

posted by wap, platform: UC

还有这BUG

TOP

posted by wap, platform: SAMSUNG (I897)

0.01妥妥的

TOP

posted by wap, platform: Chrome

没想到这么多安卓青连这都不知道。

这是JAVA语言的BUG,用浮点或者双精度会有显而易见的误差,换另一个更高精度的浮点运算类型就能解决了,PC机用JAVA做的程序也这样的。

所以说Google的人煞笔,三星那个计算器是自己重写过了,所以没事

TOP

dhd 0.00999999~~~约等于0.01~~~~~~

TOP

posted by wap, platform: UC

I9003=0.01

TOP

LZ居然这么NB。。。
这个都要用计算器算~~

TOP

我用我的IP4和M8算了下,等于0.01

我同事的里程碑2算了下,等于0.00999999

我自己脑算了下,等于0.01

又一个同事的三星I9008算了下。等于0.01

拿老婆的HTC渴望算了下,等于0.00999999

[ 本帖最后由 mollybear 于 2011-5-6 13:30 编辑 ]

TOP

没有用BigDecimal算。。

TOP

0.0099999999999

G1

TOP

发新话题
     
官方公众号及微博