Indexへ
(1215)//【1188】→(1190)
------------------------
【タイトル】倍率入力の数値の桁数について
【記事番号】 1188 (*)
【 日時 】05/03/03 22:50
【 発言者 】minoheigi

　倍率入力の数値の桁数は、小数点以下何桁まで有効でしょうか。　
寸法設定の桁数と関連がありますか。
より正確な倍率を得たいのだすが、桁数設定等良い方法を教えて下さい。
宜しくお願い致します。


Indexへ
(1188)←【1190】→(1201)
------------------------
【タイトル】re:
【記事番号】 1190 (1188)
【 日時 】05/03/03 23:27
【 発言者 】MT_ shoji@dance.ne.jp

▼minoheigiさん：こんばんは

キーボードからタイプした場合、１６桁浮動少数のようです。

つまり、ｍｍ単位の場合、「小数点より上の桁数＋下の桁数＋１」だけを認識します。

従って、１００００台と１０台では、少数以下の有効桁数が異なるということになります。

でも、式入力の場合は１２桁までしか計算してくれません。何でだろうか？分かりませんが・・・。

・・・例えば・・・

キーボードタイプだと、3.33333333333333　はそのまま認識しますが、

「１０/３」と式で書くと、3.333333333　と認識してしまいます。

私、建築設計用途では、ほとんど問題にならないレベルですが・・・・。


Indexへ
(1190)←【1201】→(1205)
------------------------
【タイトル】Re(1):re:
【記事番号】 1201 (1190)
【 日時 】05/03/04 12:04
【 発言者 】スター

▼MT_さん：
>▼minoheigiさん：こんばんは
>
>キーボードからタイプした場合、１６桁浮動少数のようです。
>
>つまり、ｍｍ単位の場合、「小数点より上の桁数＋下の桁数＋１」だけを認識します。
>
>従って、１００００台と１０台では、少数以下の有効桁数が異なるということになります。
>
>でも、式入力の場合は１２桁までしか計算してくれません。何でだろうか？分かりませんが・・・。
>
>・・・例えば・・・
>
>キーボードタイプだと、3.33333333333333　はそのまま認識しますが、
>
>「１０/３」と式で書くと、3.333333333　と認識してしまいます。
>
>私、建築設計用途では、ほとんど問題にならないレベルですが・・・・。

疑問に思って例題を実行してみたところ
1/1のスケールで1mmの水平線を描きこれに
1.0000001倍（０６ヶ）した線を作成し座標出力した結果計算通り違いがｘ座標に現れましたが、1.00000001倍（０７ヶ）した場合は同一のｘ座標値でした。


Indexへ
(1201)←【1205】//(1192)
------------------------
【タイトル】Re(2):re:
【記事番号】 1205 (1201)
【 日時 】05/03/04 13:18
【 発言者 】minoheigi

▼スターさん：
▼MT_さん：
適切なご回答誠に有難う御座いました。