Tout d’abord, plusieurs paramètres liés à la précision ont de l’importance en ce qui concerne les capteurs. Ce sont normalement la linéarité, la résolution et la répétabilité. Les paramètres exacts de toute série de capteurs Zettlex dépendent essentiellement de la géométrie du capteur et, en particulier, de toute variabilité de la position de la cible dans les axes, excepté l’axe de mesure. D’autres facteurs affectent la performance, mais dans une moindre mesure. En règle générale :
- La linéarité est normalement <1 % de la pleine échelle et peut être <0,0001 % de la pleine échelle.
- La résolution est normalement <24 bits mais plus couramment de 10, 12, 14, 16 ou 18 bits
- La répétabilité est normalement +/- égale au bit le moins significatif de la résolution calculée.
