小さな誤差を積み重ねる操作と、積み重なった誤差に影響される操作を区別して考えましょう。 同じ符号の浮動小数点数を加算や乗算を計 $k$ 回繰り返しても、$(1+2^{-53})^k-1 \approx 2^{-53}\cdot k$ 程度の相対誤差しか生まれません。 競プロにおける演算…

倍精度浮動小数点型であるところの double ですが、現代においてはもはや double が「ふつう」になり、単精度と呼ばれている float は実質的に「半精度」のような感覚になっている気がします。 なにかしらを計算したいときに、計算結果は double だとしても…

#浮動小数点数 に関するクイズ（マジメなやつ）をつくってみた pic.twitter.com/2aYU8zcguU— 某ZR（ざんねん） (@zr_tex8r) 2025年4月8日 「反例がない気はしないんだが、具体的にぱっと構成するのは難しい」みたいなシリーズ— えびちゃん (@rsk0315_h4x) 20…

ずんだもんなのだ今日はこの解法の正当性の証明をやっていくのだ pic.twitter.com/UeXkq4BG5O— えびちゃん🍑🍝🦃 (@rsk0315_h4x) 2025年4月5日 fn solve_f64(n: f64, m: i32) -> Option<u32> { if n == 1.0 || m == 1 { (n + (m as f64) <= 1.0e9).then(|| n as u32 + m</u32>…

今回は整数を使わずに、いわゆる「数値計算」っぽいアルゴリズムで平方根を求めていきます。そういうアルゴリズムであっても correctly-rounded な値を得られるところが面白いですね。 あまくだり 例 グラフ 前提知識たち Equioscillation theorem Remez alg…