principen att alla tal som behandlas i en dator måste ha formen av positiva heltal. Detta gäller för datorns inre arbete, inte för vad användaren ser. Anledningen är att när tal ska behandlas som maskinkod finns det inget tecken som står för minustecken eller decimalkomma – alla kombinationer av ettor och nollor är nämligen upptagna, eftersom alla står för hela tal. Man måste därför ta till knep för att representera negativa tal och tal med decimaler. Vilket knep som ska användas anges genom typning:
- – för negativa tal gör man så att man delar in talmängden som datorn kan hantera (se ordlängd) i två delar: de låga talen står för positiva heltal och de höga talen står för negativa heltal. Det finns sedan sätt att utföra matematiska operationer med positiva tal (=låga tal) och negativa tal (=höga tal) så att resultatet blir rätt – se tvåkomplementsform;
- – för tal med decimaler används flyttalsrepresentation: alla tal noteras med lika många siffror, uppdelade i två delar. Den första delen anger så många siffror som möjligt i talet (antalet är ju begränsat), den andra delen anger hur många av siffrorna som ska stå efter decimalkommat;
- – för potensräkning (”upphöjt till”) används en representation som liknar den som används för decimaler.
– På engelska: integer representation.
[matematik] [programmering] [ändrad 7 januari 2019]