算術演算と精度
- 算術演算
四則演算のことです。 - シフト演算
対象の2進数のビットデータ全体を左右にずらす(左シフト、右シフト)ことです。あふれたデータは捨てられます。
空いた桁に入れる値
論理シフト | 算術シフト | |
---|---|---|
左シフト | 0 | 0 |
右シフト | 0 | 符号ビット |
- 演算の誤差発生要因
- 桁落ち
同程度の大きさの値を引き算したときに有効数字が減少してしまうことです。 - 情報落ち
絶対値が大きく異なる値同士の加減算で小さい方の値が無視されてしまうことです。 - オーバーフロー
計算結果が格納可能な数値の上限を超えたときに上位の値があふれて消失してしまうことです。 - アンダーフロー
計算結果が格納可能な数値の下限を下回ったとき正確に表現出来なくなってしまうことです。
- 桁落ち