データの分析、グラフ作成、および通信のためのツールを備えた Microsoft 表計算ソフトウェアのファミリ。
・セルA1に"2.7"、セルB1に"2.25"、セルC1に=A1*B1、 セルA3に”=+(494+17.7)-(494+15)”、セルB3に"2.25"、セルC3に=A3*B3 を入力してあります。
セルC1、C3は小数点以下15桁まで表示する様に設定してあります。
セルD1、D3は 数字&小数点以下2桁の設定と設定してあります。
セルC3 には 6.074999999999970 と表示されています。
これを 数字&小数点以下2桁の設定 で表示すると 6.07 となります。
Excelでは小数計算で計算誤差が発生します。
【 第1回 小数計算で発生する「誤差」 ―― 単純な計算の答えが合わない理由 】
http://pc.nikkeibp.co.jp/pc21/special/gosa/eg1.shtml
【 第2回 誤差を見つける方法 ―― どんな計算で答えが違ってしまうのか? 】
http://pc.nikkeibp.co.jp/pc21/special/gosa/eg2.shtml
【 第3回 いろいろな誤差対策 ―― 微小値とROUND関数を使いこなす 】
http://pc.nikkeibp.co.jp/pc21/special/gosa/eg3.shtml
【 第4回 演算誤差の正体 ―― IEEE 754 浮動小数点数の仕組み 】