定数関数が極微小な傾きを持った一次関数として認識される

Question

Anonymous

office 2016 (version 2209)を使っています。

散布図を作製の際件名の通りの事案が発生しました。二組のデータをつかって散布図の近似曲線から、定数関数y=2.70942932289704（x軸の水平線)を引こうとしました。

具体的な数値は x=16.1,16.13,y=2.70942932289704です。

この時一次関数として認識されます。xの小数点以下の桁数の差のせいかと思いましたが、x=16.13,26.1の場合は定数関数として認識されました。

Microsoft® Excel® for Microsoft 365 MSO (バージョン 2210)でも同じ動作をすることを確認しました。

よろしくお願いいたします。

ロックされた質問。この質問は、Microsoft サポートコミュニティから移行されました。役に立つかどうかに投票することはできますが、コメントの追加、質問への返信やフォローはできません。

0 件のコメント

1 件の回答

Answer 1

Excel もといコンピューターは2進数のため、小数点以下は無限となり途中で切り捨てとなる処理がされるため誤差が生じることがあります。

正確な図面が必要な場合、それを込みで処理をしないと失敗してしまいます。