本文共 1928 字，大约阅读时间需要 6 分钟。
参考链接：
我们在计算机中写的十进制小数，只有 0 和 1 的计算机要怎么处理？
我们来试一试如何表达十进制的 0.2 吧。
0.01 = 1/4 = 0.25 ,太大
0.001 =1/8 = 0.125 , 又太小
0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了
0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了
0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 还是大
0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错
0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875
已经很逼近了， 就这样吧。这就是为什么二进制无法准确表达十进制小数。
我们知道像byte、short、int、long整型类型的数据，他们存储的时候就是整数转化为二进制存储的，是多少就是多少，拿byte类型举例：一个byte类型的数据占一字节（1B）即八位，所以的它的范围就是：-2^7~2^7-1
而浮点数类型float，它占4个字节（4B）即32位，按理说它的取值范围应该是：-2^31~2^31-1，但是它真正的取值范围却约等于：-3.4E38~3.4E38,接下来我们就要研究一下浮点数类型在计算机中是怎么存储的。
拿 0.09f 为例：
long l = Float.floatToRawIntBits(0.09f);System.out.println(long.toBinaryString(l));
输出结果：
111101101110000101000111101100
我们在它的前面补 0 ，补足32位，按照 1 符号位，8 阶码位，23 尾数位分开。
0 01111011 01110000101000111101100
你可以看到其实它分为了三段：
你看到了尾数和阶码，就会明白这其实是所谓的科学计数法:
(-1)^s * M * 2^e
但是把数代进去会发现：
(-1)^0 * 01110000101000111101100 * 2^123
这显然要比 0.09f 要大的很多
这是因为浮点数遵循的是IEEE754 表示法， 我们刚才的s(符号) 是对的，但是 e(阶码)和 M（尾数）需要变换：
对于阶码e ， 一共有8位， 这是个有符号数， 特别是按照IEEE754 规范， 如果不是0或者255， 那就需要减去一个叫偏置量的值，对于float 是127
所以 E = e - 127 = 123-127 = -4
对于尾数M ，如果阶码不是0或者255， 他其实隐藏了一个小数点左边的一个 1 （节省空间，充分压榨每一个bit啊）。
即 M = 1.01110000101000111101100现在写出来就是:
1.01110000101000111101100 * 2^-4 （二进制的运算就是小数点往前移 4 位） =0.000101110000101000111101100 = 1/16 + 1/64 + 1/128+ 1/256 + …. = 0.0900000035762786865234375你看这就是0.09的内部表示， 很明显他比0.09更大一些， 是不精确的！
我们再拿一个比较大的数举例子，24625125f ：
float fl = 24625125f;
输出结果：
2.4625124E7
最后一位 5 竟然变成了 4？！
按照float遵循的IEEE754表示法，我们先输出一下它的二进制（补全32位）表示：
0 10010111 01110111101111111110010
同理按照上面的步骤再计算一次：
E = e - 127 = 151 - 127 = 24
M = 1.01110111101111111110010
计算：
1.01110111101111111110010 * 2^24
=1011101111011111111100100
=2^24+2^22+2^21+2^20+ ....
=24,625,124
这就是存储到计算机中的二进制再转换为十进制的时候，会丧失精度原因。
这样我们在用float处理金融方面的问题，或者需要特别高精度的时候就不能使用float、double浮点数类型了。
转载地址：http://xwprn.baihongyu.com/