应该是7位左右吧!单精度的尾数是23二进制位,加上前面省掉的1共24位。而一个十进制7位数最小的是1000000的二进制是20位,最大的9999999的二进制是24位。
为什么单精度浮点数的十进制精度是7位 我按照23位尾数的理解精度应该是是2的-23次方乘以2的 -127 才对(浮点数转为十进制的计算公式)
更新时间:2025-04-17 17:35:40
应该是7位左右吧!单精度的尾数是23二进制位,加上前面省掉的1共24位。而一个十进制7位数最小的是1000000的二进制是20位,最大的9999999的二进制是24位。