---

[記事リスト] [新着記事] [ワード検索] [過去ログ] [管理用]

---

タイトル	： 誤差
投稿日	： 2011/10/21(Fri) 02:06
投稿者	： 26℃

E3DInit 0, -1, 0, 16, 0, scid1の命令のあとに
a=84.3000
dialog -a
このように、小数にマイナスをかけるとdialogで表示される数値が
84.300003などになるのですが原因はなにでしょうか？

E3DInitの手前で計算しておくと数字がおかしくなることはないようです。

▼ - 誤差 - 26℃ 11/10/21-02:06No.9882
• Re: 誤差 - おちゃっこ 11/10/21-06:52 No.9883
  • Re^2: 誤差 - 26℃ 11/10/21-11:41 No.9884
    • Re^3: 誤差 - おちゃっこ 11/10/21-16:59 No.9885
      • Re^4: 誤差 - 26℃ 11/10/21-17:11 No.9886
        • Re^5: 誤差 - おちゃっこ 11/10/21-18:26 No.9887