Accuracy small numbers converted to symbolic
1 vue (au cours des 30 derniers jours)
Afficher commentaires plus anciens
Martin Baumann
le 4 Mai 2021
Commenté : Martin Baumann
le 6 Mai 2021
Any idea how to eliminate the inaccuracy occuring when converting small numbers to symbolic:
Current Example:
>> sym(2e-6)
ans =
4722366482869645/2361183241434822606848
>> sym(2e-5)
ans =
1/50000
0 commentaires
Réponse acceptée
Plus de réponses (0)
Voir également
Catégories
En savoir plus sur Symbolic Variables, Expressions, Functions, and Preferences dans Help Center et File Exchange
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!