设某数 x 的近似值有如下标准形式
xˉ=±10m×0.x1x2⋯xn⋯xp若有
∣x−xˉ∣≤21×10m−n则称 xˉ 为 x 的具有 n 位有效数字的近似值。p=n 时称 xˉ 为有效数。
常见处理:
x+1−xx1−x+11ln(x+1)−lnxln(x−x2−1)sin(x+ε)−sinxarctan(n+1)−arctann=x+1+x1=x(x+1)1=lnxx+1=−ln(x+x2−1)=2cos(x+2ε)sin2ε=arctann2+n+11可能导致指数溢出。
也称「大数吃小数
常见处理:例如累加求和时从较小的一端开始,而不是从更大的一端开始。