AccessのInt関数を使った四捨五入のズレについて

Question

テーブルＡに

[数量]（倍精度浮動小数点型）

[単価]（倍精度浮動小数点型）

[金額]（長整数型）

があります。

フォームにて[数量]と[単価]を更新すると

[金額]に四捨五入した数値を入れたいと思います。

[単価]の更新処理後のイベントプロシージャにて

Me.金額 = Int((Me.数量 * Me.単価) + 0.5)

としてしています。

数量に「33.05」

単価に「350」を入力すると

金額には「11567」と表示されます。

しかし本来は「11568」とならなければならないはずですが・・・

ためしにテキストボックスのコントロールソースに

「=Int(([数量]*[単価])+0.5)」と記入すると

計算結果は「11568」と正常な数値が表示されます。

2進数のため・・・というのは聞いたことがあるのですが

テキストボックスやクエリと結果が違うので・・・

Win10+Access2016を使用しています。

よろしく願いいたします。

Answer 1

浮動小数点数の演算誤差ですね。

VBAのコード中で型指定なしで小数値を記述すると、単精度浮動小数点型になりますので。

通貨型なら演算誤差はでないので、下記のように通貨型に変換して演算すればいいでしょう。

Me.金額 = Int((Me.数量 * Me.単価) + CCur(0.5))

テキストボックスでは、通貨型がデフォルトなのかな。

=Int(([数量]*[単価])+CSng(0.5))

というように単精度に変換して演算すると、「11567」となりますね。

Answer 2

ありがとうございました。

提示していただいた式で無事解決することができました。

テーブルで単価等は通貨型に変えたりしてもダメだったのでですが

「0.5」の部分も通貨型にしなければならなかったのですね。

しかしテキストボックス内の計算式の扱いにも注意が必要ですね・・・

大変助かりました。ありがとうございました。

Answer 3

> テキストボックスでは、通貨型がデフォルトなのかな。

クエリや演算テキストボックス上では十進型（ Decimal ）ですね。

（ TypeName 関数の戻り値で判別可能）