Metasequoia BBS

| New message | Normal | Tree |
Status
Tag
Keyword
[75] 基本図形の頂点座標 / bomber
[From old BBS] Response
mqoファイルとして書き出せるのは小数点4桁までになっていますが、
基本図形や、その他頂点座標では小数点4桁よりも小さい数が入っていて
表示上では0.0000でも実は0.0000004だったりする部分があります。
プラグインを作成する上で扱い辛かったり、
見た目同じオブジェクトでも処理結果が異なったりしてしまいます。

これを、例えばvoid MQDocument::Compact(void);などで、
ファイル出力ができる範囲の数値に適正化させたり出来ませんでしょうか。
2004-02-07 16:21
[93] Re: 基本図形の頂点座標 / O.Mizno
小数点4桁で出力しているのは、テキストに書き出す都合上のみであって、
桁落ちが通常問題にならないであろう範囲の桁まで出力しているに
過ぎません。
(隠しモードのバイナリ出力ではIEEE754の形式そのままで出力されますし)

安易な丸めは誤差をなくすかもしれないし、逆に誤差を増長させる可能性も
あるのではないかと思うので、内部でその処理をする必要があるのかは
慎重に検討すべきことだと考えます。
ひとまずそれが問題になっているのならプラグイン側で勝手に丸めて
しまえばいいのではないだろうかと単純に思うのですが、
それだと何かまずいのでしょうか?
2004-02-10 01:44
[114] Re: Re: 基本図形の頂点座標 / bomber
失礼しました、よく考えたら確かにvoid MQDocument::Compact(void);で丸めはまずいですね。
プラグイン側で処理を行うということで良いと思います。

一応、基本図形についてなんですが、
デフォルトの設定でちくわ型を作成し、上から見下ろしたとき
Z軸が0であるべき点が0になっていないのが少々気になっています。
うまく説明できないので画像を添付します。
左から6、14、10、2番で、
Z座標がそれぞれ0.000001、0.000001、-0.000003、-0.000004になっていうます。
ほかにもあるようですが、
クリティカルではないので、ご報告ということで。
2004-02-12 02:52