Why does num2hex(1) return '3ff0000000000000' in MATLAB?

 Réponse acceptée

David Goodmanson
David Goodmanson le 7 Fév 2019
Modifié(e) : David Goodmanson le 7 Fév 2019

0 votes

Hi Trevor,
Unlike dec2hex, num2hex converts to IEEE 754 hex notation (64 bits) See
https://babbage.cs.qc.cuny.edu/ieee-754.old/decimal.html

Plus de réponses (0)

Catégories

En savoir plus sur Startup and Shutdown dans Centre d'aide et File Exchange

Produits

Version

R2018b

Tags

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by