 壁④なぜだか計算違いが起こってしまう ( No.6 ) |
- 日時： 2004/07/22 03:42
- 名前： 管理人
- 計算が得意なはずのエクセルは、実は「計算間違い」を起こします。
これはコンピュータで計算を行う場合、二進数を使うことから起こる問題です。
整数では問題ないが、問題は少数です。
たとえば十進法の「０．１」も、二進法にすると「０．０００１１００１１００１１００～」と延々と数値が続く形となり、「０．１」を正確にあらわすことができません。
あくまで、正確さを期すなら二進法でない計算法を採用すべきなのですが、二進法はコンピュータと相性が良く、高速で処理できる利点があります。エクセルの場合も正確さより、速度を優先したかたちとなりました。
もちろん、通常の処理ではこのような誤差はほとんど問題がありません。
エクセルでは、少数を二進法で変換する場合、ある桁数（最初の１がでてから５４桁目）で切り捨てか、切り上げかを自動的に行っています。
そのため、「０．１」と表示されていても、実は０．１より少しだけ大きかったり、小さかったりします。通常の表示では、小数点以下の表示桁数がそれほど大きくないため、その違いが見えないまま計算され、知らない間に計算間違いを行っている可能性があるというわけです。
ですから、シリアル値自体が少数である「時刻」の計算の場合には特に注意が必要です。
＜時間の計算時の対象法の例＞
出社時間と退社時間から、勤務時間を求めるとします。
勤務時間は、退社時間から出社時間を引いた値です。
しかし、給与の計算上、勤務時間を１５分単位で切り捨てることとします。
例）
出社時刻 ２０：００
退社時刻 ２２：００
勤務時間 ２:００ ＝ ２２：００ － ２０：００
ＦＬＯＯＲ関数で、この勤務時間２：００がはいったＤ４のセルを１５分ごとに切り捨てると（＝ＦＬＯＯＲ（Ｄ４，”０：１５”））、１：４５と言う値が求められました。
でも、実労は２：００のはずです。
このようなことが起こったのは、２２：００ － ２０：００の値が２：００と表示されているが、実際は２．００より少し小さい値のため１：４５と表示されたと考えられます。
◆解決法１
給与計算は分単位に行うので、分に影響の与えない「０．１秒」を加算して、ＦＬＯＯＲ関数を使う。「０．１秒」は誤差が生じる桁数より大きいので、この数値を加えることで、わずかにちいさかった数値が、表示時間（例では２：００）より大きくなるので問題を防げます。
例）
１．元の時刻に０．１秒を足す
＝Ｄ４＋”０：００：０１”
２．０．１秒足した時刻を１５分単位で切り捨てる
＝ＦＬＯＯＲ（Ｇ４，”０：１５”）
◆解決法２
分の部分を整数化して計算する。
整数化する方法として、ＭＩＮＵＴＥ関数で分を取り出す。
例）
１．時間データから「時」だけ取り出す
＝ＨＯＵＲ（Ｄ４）
２．「分」だけ取り出す
＝ＭＩＮＵＴＥ（Ｄ４）
３．出した「分」をＦＬＯＯＲ関数で切り捨てる
＝ＦＬＯＯＲ（Ｆ４，１５）
４。時間データに戻す（シリアル値に戻す）
＝ＴＩＭＥ（Ｅ４，Ｇ４、０）
 |
|
[18] ＥＸＣＥＬの壁