Skip to content

1 误差基础知识

有效数字

设某数 的近似值有如下标准形式

若有

则称 具有 位有效数字的近似值 时称 有效数

浮点误差的控制

避免相近的数相减

常见处理:

避免数量级相差太大的数相除

可能导致指数溢出。

避免数量级相差太大的两数相加减

也称「大数吃小数

常见处理:例如累加求和时从较小的一端开始,而不是从更大的一端开始。