doubleからsingleのキャスト精度の向上方法?
Afficher commentaires plus anciens
添付画像みたいのキャスト処理をSimulinkモデルで実装してみましたが、 8.333333333333333(double)⇒8.3333330154419(single)になる理由は何でしょうか。 2進数⇔10進数の変換結果が約8.333333313465118になりますが、Simulink上でもこの結果ぐらいになり、浮動小数点のキャスト精度向上するために何か設定・コンフィギュレーションがありますでしょうか。(Matlab R2025Sp1)

Réponses (1)
Takafumi
le 29 Mai 2018
浮動小数点の精度を確認するのに、epsコマンドがありまして、 single 型の精度は代替小数点7桁あたりまでです。
eps('single')
ans =
single
1.1920929e-07
1 commentaire
nguyen congkien
le 30 Mai 2018
Modifié(e) : nguyen congkien
le 30 Mai 2018
Catégories
En savoir plus sur Simulink dans Centre d'aide et File Exchange
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!