[4703] Re: 面の生成の表示桁数？がヘン / 管理者
浮動小数点の仕組みを理解するとわかるのですが、たった32bitで1/10の38乗から10の38乗までの広い範囲の値を表現する仕組み上、
CPU内部では10.02という値は正確には表現できず、その近似値の10.0199999から10.0200001の間のどこかの値として保持され、
その数値データには桁数という概念自体もありません。
このため「実際の座標」というものがそもそも存在せず、入力した桁数でそのまま表示するというのは事実上困難なのです。
この数値データは実質の有効数字として9桁程度の精度なので、9桁そのまま表示すれば元の入力値にほぼ等しい値にはなるのですが、
9桁も表示すると非常に見づらいため、適当な桁数にとどめて四捨五入した値を表示しております。
2014-07-15 12:50
[4704] Re: Re: 面の生成の表示桁数？がヘン / 機能の要望提案
そうでした。2進数で扱っている以上、完全には再現できない値があるのでした。
しかし、10.0199999から10.0200001の間の値になっているのですから、
可能であれば小数点第3位で四捨五入して10.02と表示してほしいところです。
0.5や0.25、0.125といった値は正確に再現できるのでしたね。
2014-07-15 22:41
[4725] Re: Re: Re: 面の生成の表示桁数？がヘン / 管理者
Ver4.2.4で対策として右クリックメニューやCtrl+PageUp/PageDownキーで表示桁数を増減できるようにしました。
キーを押して変更されるのは表示のみで、内部で保持している値自体は変化しません。
あまり使いやすいということはありませんが、表示桁数が少なくてどうしても困る場合には有用かと思います。
2014-07-22 18:21
タグが [不具合報告,Ver4.2.3] から [要望,Ver4.2.4] に変更されました。
Ver4.2.4で表示桁数が変えられるようになったのを確認しました。対応ありがとうございます。
しかし、値を入力し直すと表示される桁数が戻ることがあるようです。
あと、X・Y・Zの表示桁数を一括に変更できたらいいと思いました。
あと、表示された数字と実際の値とが（表示の際の四捨五入によって）異なるとき、それが判るといいと思います。
どのような表示の仕方が好いのか混乱してきたのですが、
指数表示もできるといいかもしれません。
適当な表示方法がありましたら、よろしくお願いします。。
2014-07-23 00:16