エクセルの計算について

Question

エクセルの計算について質問します。

Win7エクセル2010、Win10エクセル2016

＝int(１０００００＊１．５７％－７８５－７８５)　と計算すると答えは０になります。

しかし　Ａ１セルに１．５７％と入力し、＝int(１０００００＊Ａ１－７８５－７８５）とするとー１となってしまいます。

＝(１０００００＊Ａ１－７８５－７８５）とすると-0.0000000000002273736754432320000・・・となります。

１．５７％をセル参照にした場合におきるようです。

１．５８％や１．５９％ではおきていません。

ｉｎｔや（）をつけない場合は０になるのですが、計算結果が正しいのかどうか不安です。

原因がおわかりになる方がいらっしゃったら、教えてください。よろしくお願いします。

Answer 1

善場様

ありがとうございました。

１．５７％がたまたまマイナスだったために目に見えたということ、誤差のため無視をしてい数値だということなのですね。

また別セルと直接書いた場合で誤差の出方が違うのですね。エクセルの仕様でこういう風なことがおきるとは思っていなかったので、大変勉強になりました。

ｒｏｕｎｄｕｐなどで対応したいと思います。

ありがとうございました。

Answer 2

実数(浮動小数点数)を含む計算では、内部データ表現は2進数のため値により発生する誤差と、結果を整数に変換する関数の使い方によるためと思います。

INT関数は、数値が正の場合と負の場合では異なってきます。

例えば整数にする場合、0.001 は0になりますが、-0.001は-1になります。

今回のような場合、計算による内部表現の誤差を丸めて整数化をするには、ROUND関数、切り上げ、切り捨てのROUNDUP、ROUNDDOWN関数などを用いるのが適切と思います。

%値を別セルにした場合と、直接数値内に書いた場合の、どちらも同じ結果になります。

関連の情報

Excel で浮動小数点演算の結果が正しくない場合がある

INT 関数

ROUND 関数

任意の小数点以下の桁数に数値を丸める

Answer 3

投稿者です。

－７８５－７８５はー１５７０でいい話でした。

＝int(１０００００＊A1－１５７０）　でー１になります。

まぎらわしい書き方をして申し訳ありませんでした。