2010年08月18日
PaoCalcの修正版を公開
数値から文字列に変換するときの演算誤差の解消版を公開しました。
修正といっても、計算に使用する変数を64Bit実数値から80Bit実数値に変更しただけです。
数値から文字列に変換する関数が80Bit実数値を対象にしていたので、たまに、ものすごい微妙に.999999999992とか.00000000007とか出ていました。
旧2.7までは測量座標以外は全て32Bitで計算していたのが、今となっては「よくあれで済んでいたな」という感じです。
修正といっても、計算に使用する変数を64Bit実数値から80Bit実数値に変更しただけです。
数値から文字列に変換する関数が80Bit実数値を対象にしていたので、たまに、ものすごい微妙に.999999999992とか.00000000007とか出ていました。
旧2.7までは測量座標以外は全て32Bitで計算していたのが、今となっては「よくあれで済んでいたな」という感じです。
ho_cad at 20:10│Comments(0)│TrackBack(0)│