十进制

看不见的浮点数,0.1+0.2竟然都算错

说到浮点误差,有一个比较高深的计算机概念——浮点数,有兴趣的同学可以问度娘。简单说,在计算机的计算中,只能存储和处理二进制数据,就是1和0。Excel在计算时,首先要把十进制的数值转换为二进制,交给计算机处理,最后再把二进制的结果转换为十进制,显示到Excel

excel countif 浮点数 浮点 十进制 2025-04-22 11:23  7