为什么用EXCEL计算一个4阶全整数的行列式的值也会有误差?

行列式是0的式子也会算出一个小数?
2025-03-23 02:26:05
推荐回答(2个)
回答1:

  1. excel有些运算是这样的,比如你在单元格输入一个数:

    39524.848    它的值实际上却是:39524.8479999999

  2. 做个四舍五入就行了,如图所示:

回答2:

由于计算机存储浮点数方式,导致误差,并且是不可避免的。
一般用四舍五入的方法解决误差问题,修改公式为:
=ROUND(MDETERM(A1:D4),0)