エントリー

四捨五入による誤差

もうすぐ月初め。
毎月の事なんだけど、どうも頭が弱い…ゴフゴフッ
計算が苦手な方がいるようで「ここの計算がおかしい」と。

まぁ、過去のエクセルを改修して使っている事もあるので
こちらも「絶対に大丈夫」と言い切れないんだけどね。

普通に買い物をしていれば、
商品単品での税込価格(の累計)と精算時の金額に誤差があるという事は知っているはずなんだけどなぁ。
まぁ、何も考えてなければ気付かないのかもだけど。

で、毎回説明するのも面倒なので… 一覧表を作ってみた(苦笑

きっかけはこういう感じ。

20230628163731.gif

実際には商品の販売価格ではなく
ある数字に係数をかけるというもの。

その数字を毎日記録しているのだが
最終的な確定データを見て「ここの計算がおかしい」と。
※データは日毎に四捨五入で処理

合計値と係数をかけて出た数字と
累計値が一致しない事がご不満のよう。
もうね、アボカドバナナ。

上の画像は単純に消費税計算させたもの。 ※価格は家計簿より抜粋。
税込価格は消費税分(8%)を加えた数字を小数点第二位まで表示させたモノ。
税込価格’は小数点以下を切り捨てたモノ。

切り捨てなので10品しかないのに誤差5円。

簡単に言うと…
1個ずつ10回の会計なら1,956円。
カゴに入れてまとめて会計すると1,961円。

安く買うなら1個ずつ会計。となるのですが…
その場合は、ちゃんとレジに並び直してくださいね(苦笑
店員に嫌な顔・怪訝な顔をされても文句言わないでくださいね。
私は相手したくないけど。 (゚~゚)

で、話を戻すと…
毎日、四捨五入した数値を記録(上図でいう税込価格’)しているのに
集計が完了した数字(上図でいう税抜価格・計)に係数(上図でいう消費税)をかけ
「ここの計算がおかしい」と。

挙げ句「普段は大きくても2ぐらいしか違わない」とか。
誤差が生じている時点で疑問に思えよ。 il||li _| ̄|○ il||li ハァァ…

いい年ぶっこいているはずなのに「ゆとり」か?
つか、ゆとり世代に失礼だわ。

20230628163732.gif

とりあえず作成した一覧表。

四捨五入して「1」になるケースとして
最小の値は0.5(A)
最大の値は1.4(B)

A'・B'は確認用
それぞれをROUNDで丸めてあります。

塁A・塁Bは、それぞれの累計値。
一ヶ月分のデータを想定しているので30個分です。

塁A'・塁B'は… 要らなかったですね。
こちらも累計値です。

差Aは、塁A'-塁Aの値。 四捨五入した数字としていない数字との差。 ※Bも同様
1件の処理につき「-0.4~0.5」の誤差が生じていて
30件も繰り返すと「-12~15」が誤差が出る。ってだけの話なんだけどなぁ。

これを見ても理解できないなら、もう知らん。
≧∇≦ブハハハハハ…   il||li _| ̄|○ il||li ハァァ…

一生使える“算数力"は親が教えなさい。

ページ移動

コメント

  • コメントはまだありません。

コメント登録

  • コメントを入力してください。
登録フォーム
名前
メールアドレス
URL
投稿キー(スパム対策に、投稿キー を半角で入力してください。)
コメント
閲覧制限

ユーティリティ

- - - - - - 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 - - - - - -

過去ログ

ノート

  • ノートは登録されていません。

新着エントリー

javascript 再勉強中
2024/03/08 10:56
ベータガンダムは伊達じゃない
2024/02/21 11:07
残り約50ページ
2024/01/29 13:07
スマホのカメラ機能
2023/12/19 11:59
ガラケー卒業
2023/11/27 18:57

新着コメント

Re:3DOソフトカタログ
2024/05/30 from 承認待ち
Re:チョロQ3
2024/04/25 from 承認待ち
Re:スマホのカメラ機能
2024/01/13 from dshata
Re:スマホのカメラ機能
2024/01/12 from とくめい
Re:アクアビーズアート(2)
2021/10/10 from はやとまる