Why answer of uint8 in .m and mdl are different?

1 vue (au cours des 30 derniers jours)
nkumar
nkumar le 27 Juil 2015
Réponse apportée : Walter Roberson le 27 Juil 2015
I have a value of -1.In .m file if i process uint8(-1) i get answer as 0,but in simulink if i feed a constant with -1 and use data conversion of uint8 i get answer as 255.Why do i get different answers.

Connectez-vous pour répondre à cette question.

Réponse acceptée

Walter Roberson
Walter Roberson le 27 Juil 2015
http://www.mathworks.com/help/simulink/slref/datatypeconversion.html
Notice that Saturate on Integer Overflow defaults to Off; you want it to be On.

Plus de réponses (0)

Catégories

En savoir plus sur Sources dans Help Center et File Exchange

Tags

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by