計算の桁数の精度

6 vues (au cours des 30 derniers jours)
rika yamada
rika yamada le 26 Juin 2020
digit(12) で12桁を指定して作った複素数行列
NN1 = vpa(Zn./ZS)
NL1 = vpa(Zl./ZS)
(Zn, ZS, Zl も複素数）があるのですが、これらに関して
>> NN1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
>> NL1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
となっていて、同じ値のように見えるのですが、引き算をすると以下のように、差があるのはなぜでしょうか。
>> NN1(500)-NL1(500)
ans =
8.87468518374e-31 - 7.39557098645e-32i

Connectez-vous pour répondre à cette question.

Réponses (0)

Catégories

En savoir plus sur Logical dans Help Center et File Exchange

Tags

Produits


Version

R2018a

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!