PC用語ひらがなTOP > パソコン用語:か行 > 桁あふれ(overflow)
桁あふれ(overflow)
コンピュータが数値演算を行なった結果が、扱える数値の最大値を超えること
一つの数値を表現するために割り当てられた記憶容量は決まっているため、扱える数値には上限があります。
演算結果がこの上限を超えるのがオーバーフローです。
例えば、8ビットの符号なし整数は、0から255までの整数を扱うことができますが、ある演算を行なった結果が500になったら、
8ビット符号なし整数の枠内では扱うことができないため、オーバーフローとなるのです。
[ パソコン用語:か行 ]