Metasequoia BBS

| 新規投稿 | 通常表示 | ツリー表示 |
状態
タグ
キーワード
[3809] 頂点座標の誤差 / mqouser
対応済み [質問] 返信
4で頂点座標の見える桁が増えたことで気がついたことがありました。
添付の画像のようにプリミティブで作成したオブジェクトでX=0に存在するはずの頂点ですが、一方は0.000の値があるものの、反対側の頂点は微妙に誤差を含む値になっていました。
これは浮動小数点で少数を表現する上での誤差という認識でよいのでしょうか。
このデータを保存したものを再びロードすると値が0.000になっていたのですが、これは単純にモデラー側の精度からmqoファイルの精度に変換される過程で切り捨てられたということでよいのでしょうか。
ファイル [pic1.png]
2013-11-22 20:10
[3812] Re: 頂点座標の誤差 / 管理者
仰せのとおり、その値は浮動小数点演算時の誤差によるものです。
再読み込み時に0に戻るのもファイル内で一定の桁数までしか保存されないので誤差が相殺されたという考えで間違いありません。
2013-11-22 21:08
タイトル
お名前
レス通知メールアドレス レスがつくとこのアドレスにメールが通知されます。メールアドレスは投稿後に表示されることはありません。
タグ プリセットから指定するか、コンマ区切りで任意のタグを複数入力できます。
メッセージ

現在ファイル添付機能は一時的に利用できません。