关于编程的一个很奇怪的问题，请大家指导

duanyz · 发表于 2014-10-2 08:30

本帖最后由 duanyz 于 2014-10-2 08:33 编辑

用vb编程，设了
a=3.2
b=3.2
c=a-b
运算完后c的结果是-8.8817841970013e-016，而不是0

如果
a=3.3
b=3.2
c=a-b
c的结果是0.099999999999999999而不是0.1

请教这是为什么呢？

chjj0 · 发表于 2014-10-2 08:35

浮点的加减乘除判断的结果都不像常理来自: iPhone客户端

benli · 发表于 2014-10-2 11:12

楼主试试整数运算……

blackspider_e · 发表于 2014-10-2 11:48

试试 0.5-0.25

jimmy_xt · 发表于 2014-10-2 12:05

用的单精度浮点数吧，超过7位的有效数字请直接四舍五入。

桃之夭夭 · 发表于 2014-10-2 14:30

double就是这样~

cptank · 发表于 2014-10-2 15:02

浮点数运算就是这样，计算机把小数转换成2进制就变成这样了

8055 · 发表于 2014-10-2 18:04

这样挺好，9.99999999~比10.00000000要准确可信

		自动登录	找回密码
密码			请使用微信账号登录和注册会员