投稿者: aux　　日時: 2008年 3月 10日(月)
回答先: Re: トラックデータの「汎用」への数値入力について 投稿者: TnT　　日時: 2008年 3月 09日(日)

>>>トラックデータに付属する「汎用１」「汎用２」には任意(?)の数値項目が追加できますが、
>>>小数点の付く数値を入力しようとすると、その数値がどうしても正しく反映されず、
>>>若干違うおかしな値になってしまい、困っております。
>>>どうすれば正しく入力できるのかご存知の方がいらしたら、どうぞご教示ください。

>>具体的に書きますと、例えば"50000.1"を汎用１に入力しようとすると、カシミール３Ｄ上で"50000.101563"となってしまいます。
>>

>おそらく浮動小数点の表現の問題で問題なし
>小数点第１位で表示を切るか、すべて表示するかの違いだけ。

お返事をありがとうございました、上記承知しました。
私が出した例がよくなかったですが、これは表示する桁が多すぎる
ということなのですね？

例えば、12345.678901 と入力すると、12345.678711　となってしまいます、
このことを考えると有効桁数が８桁程度ということになるのでしょうね。