Is inexact subtraction expected?

7 vues (au cours des 30 derniers jours)
Guy
Guy le 18 Juin 2020
Réponse apportée : Image Analyst le 18 Juin 2020
In Matlab R2018a, I just typed "32885.6-32760" and got back 125.599999999999. Is this type of inexact subtraction expected? If I then type "ans - 125" I get 0.599999999998545, so it's not just a bunch of 9's. Removing the leading 3 or the leading 32 does not give this incorrect answer (i.e. it gives the exact decimal value .6)

Connectez-vous pour répondre à cette question.

Réponses (1)

Image Analyst
Image Analyst le 18 Juin 2020

Catégories

En savoir plus sur Introduction to Installation and Licensing dans Help Center et File Exchange

Tags

Produits

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by