Accuracy small numbers converted to symbolic
Afficher commentaires plus anciens
Any idea how to eliminate the inaccuracy occuring when converting small numbers to symbolic:
Current Example:
>> sym(2e-6)
ans =
4722366482869645/2361183241434822606848
>> sym(2e-5)
ans =
1/50000
Réponse acceptée
Plus de réponses (0)
Catégories
En savoir plus sur Assumptions dans Centre d'aide et File Exchange
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!