Avec une calculette Casio (le mode ENG) -(3)

Un exemple en mode normal (FIX4 puis FIX4/E). Le résultat peut paraître déroutant car en mode FIX4/E il est donné avec 3 chiffres seulement (300µ) et une grosse approximation !

Analyse : 1/3000 donne 0,00033333.....

Le mode FIX4 ne garde que 4 chiffres après la virgule. Il reste donc : 0,0003.

Le mode FIX4/E réutilise ce résultat tronqué pour faire la conversion en µ ce qui donne 300µ, alors qu'on aurait pu s'attendre à avoir 333,3333µ !

A retenir : dans le mode FIXn/E, la calculette garde en mode FIX n chiffres après la virgule puis en fait la conversion pour affichage au préfixe multiplicateur le plus proche. Dans ce mode on risque de grosses erreurs d'arrondi !