浮動小数点数の比較における落とし穴:知っておくべきこと
2025-05-15

この記事では、浮動小数点数の比較の複雑さについて深く掘り下げています。著者は、精度の限界と累積される丸め誤差のために、単純な等値比較が信頼できないことを強調しています。相対誤差(イプシロン)とULP(Units in the Last Place)という2つの比較方法を詳細に説明し、それぞれの長所と短所を分析しています。また、ゼロに近い数値では相対誤差による比較が失敗することを指摘し、絶対誤差を組み合わせた改良策を提案しています。最後に、`sin(π)`の計算例を通して、桁落ち現象と、浮動小数点数の表現誤差を利用してπの精度を高める方法を分かりやすく説明しています。
開発