primary school question!

15 vues (au cours des 30 derniers jours)
Wenjuan
Wenjuan le 28 Nov 2020
Réponse apportée : Image Analyst le 28 Nov 2020
well, a silly question
why 0.07*400 is not equal to 28?
see screenshot;

Connectez-vous pour répondre à cette question.

Réponses (1)

Image Analyst
Image Analyst le 28 Nov 2020
Truncation error due to double's only using 64 bits instead of an infinite number of bits. It will be off a very small amount, eps(28). See the FAQ for a thorough discussion:
https://matlab.fandom.com/wiki/FAQ#Why_is_0.3_-_0.2_-_0.1_.28or_similar.29_not_equal_to_zero.3F

Catégories

En savoir plus sur MATLAB dans Help Center et File Exchange

Tags

Produits


Version

R2020a

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by