Cette page s'applique à la version précédente. La page correspondante en anglais a été supprimée de la version actuelle.
Précision
Les mots informatiques se composent d'un nombre fini de bits. Autrement dit, le codage binaire des variables ne constitue qu'une approximation d'une valeur réelle à la précision arbitraire. Par conséquent, les limites de la représentation binaire limitent automatiquement la précision de la valeur.
Rubriques
- Maximize Precision
To maximize precision, make the slope as small as possible while keeping the range adequately large.
- Rounding Modes
Learn about the different rounding modes available in Fixed-Point Designer™.
- Net Slope and Net Bias Precision
Net slope and bias precision, detecting precision loss, underflow, and overflow.
- Detect Fixed-Point Constant Precision Loss
This example shows how to detect fixed-point constant precision loss.
- Use Scaled Doubles to Avoid Precision Loss
How to avoid precision loss by overriding the data types in your model with scaled doubles.
Sélection d՚exemples
Compute Quantization Error
Compute and compare the statistics of the signal quantization error when using various rounding methods.
