タイトル | : Re^4: 誤差 |
投稿日 | : 2011/10/21(Fri) 17:11 |
投稿者 | : 26℃ |
>小数の計算精度を指定するC言語の命令があるのです。
>DirectXは処理速度を優先するために通常は精度をfloatにします。
C言語の命令以降ずっとfloatになるということですか?
hspの計算にも影響するみたいですね。
数字をぴったりに合わせるのはあきらめて、誤差も含めて計算させることにしてみたらやりたいことが上手くいきました。
ttp://oirahakobito.seesaa.net/article/231483437.html?1319184027