heltalsöversvämning

(integer overflow) – det att en beräkning ger ett resultat som inte passar i det tilldelade minnesutrymmet. – Heltalsöversvämning uppstår om resultatet av en beräkning innehåller för många binära siffror, men värdet kan också vara för lågt. Följden blir oftast att talet kapas från de första siffrorna: de siffror som står för de högsta värdena kommer alltså inte med. Om resultatet av beräkningen är ett tal som är lägre än minsta tillåtna värdet kan det också hända att värdet ”slår om”: om värdet inte får vara negativt kan subtraktionen 0–1 (till exempel) bli +1 023 (alltså 210-1). Heltalsöversvämning kan ställa till många problem, i synnerhet om programmeraren inte har förutsett det. Men i vissa tillämpningar kan följderna vara betydelselösa. – 2038‑problemet är ett exempel på heltalsöversvämning.

[programmering] [ändrad 31 oktober 2021]

Dagens ord: 2018-04-27