Dag Kees,
Iets meer detail. Excel gebruikt de IEEE754-64 bit norm om getallen op te slaan. Elk geheel getal heeft een binaire representatie. Het zijn de decimale waarden die niet altijd exact in een binaire waarde kunnen omgezet worden.
Zo is 0,5 intern 3FE0000000000000 en bij terugzetting naar decimaal ook 0,5.
0,7 is intern 3FE6666666666666 en bij terugzetting
0,699999999999999.9555910790149937383830547332763671875
Exel toont 15 betekenisvolle cijfers, daarom heb ik ook een punt gezet in de vertaling.
In sommige gevallen ziet Excel de afwijking voldoende klein om dit terug af te ronden naar 0,7.
In andere gevallen wordt die afronding niet toegepast zodat je inderdaad een kleine afwijking kunt overhouden. Zoals Aalpha aangeeft, AFRONDEN is de enige oplossing.
Bij heel grote getallen, meer dan 15 cijfers, kan dit ook optreden omdat maar 15 betekenisvolle cijfers getoond worden.
De getallen in de 2° kolom zijn de ingegeven, werkelijke getallen. Zoals je ziet vervangt Excel de 13 door 00 en is er bijgevolg ook een afwijking op de som in de 3° rij.
| 12345678910111200,00 | 12345678910111213 |
|---|---|
| 12345678910111200,00 | 12345678910111213 |
| 24691357820222400,00 | 24691357820222426 |
De getallen in de 2° kolom werden als tekst ingegeven en de berekening in de 3° rij werd gedaan met een hiervoor bestemde add-in.