Metasequoia BBS

| New message | Normal | Tree |
Status
Tag
Keyword
[3809] 頂点座標の誤差 / mqouser
Done [Question] Response
4で頂点座標の見える桁が増えたことで気がついたことがありました。
添付の画像のようにプリミティブで作成したオブジェクトでX=0に存在するはずの頂点ですが、一方は0.000の値があるものの、反対側の頂点は微妙に誤差を含む値になっていました。
これは浮動小数点で少数を表現する上での誤差という認識でよいのでしょうか。
このデータを保存したものを再びロードすると値が0.000になっていたのですが、これは単純にモデラー側の精度からmqoファイルの精度に変換される過程で切り捨てられたということでよいのでしょうか。
File [pic1.png]
2013-11-22 20:10
[3812] Re: 頂点座標の誤差 / Administrator
仰せのとおり、その値は浮動小数点演算時の誤差によるものです。
再読み込み時に0に戻るのもファイル内で一定の桁数までしか保存されないので誤差が相殺されたという考えで間違いありません。
2013-11-22 21:08