Jw_cad 情報交換室−その3New

 JWW についての情報交換の場としてお使いください
初心者の方などのご相談は Jw_cad 相談 室−その2をご利用ください
なお、情報交換室と相談室の両方に同じ内容を投稿するのはご遠慮ください

2009年9月以前の発言過去ログのページからご覧ください。

それ以降の過去ログは消失しています。
申し訳ありませんが、復活の予定はありません。


  新規投稿 ┃ツリー表示 ┃スレッド表示 ┃一覧表示 ┃トピック表示 ┃番号順表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム  
2 / 336 ツリー    ←次へ | 前へ→

計算精度について あかんとく 20/2/5(水) 16:22

Re:計算精度について kubo 20/2/9(日) 10:37
Re:計算精度について sera 20/2/9(日) 12:43

Re:計算精度について
 kubo  - 20/2/9(日) 10:37 -
▼あかんとくさん:

お話がよくわからないのですが、理解できたことは・・・・

>例えば、寸法線を測った場合、
>全長はぴったりになっているのに、節間を測ると誤差があるという具合です。

Y方向(縦の方向)に直線を引いて、それから 2000 離れた位置に複線を引いて
その2線の間に3分割の線を(分割コマンドで)引き、小数点以下2位までの
表示で、各線の間隔は 666.67 になります。合計すると 2000.01 になり、
元の 2000 との誤差が発生します。

そういうことなら、数値の丸めの問題で常に発生します。

ひょっとすると、666.67 となるべきところが、666.66 に表示されるという
ことでしょうか。

引用なし

パスワード


<Mozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; rv:11.0) like Gecko@93.103.168.203.megaegg.ne.jp>
・ツリー全体表示

Re:計算精度について
 sera  - 20/2/9(日) 12:43 -
▼kuboさん:

>そういうことなら、数値の丸めの問題で常に発生します。
>
>ひょっとすると、666.67 となるべきところが、666.66 に表示されるという
>ことでしょうか。

そのような話では無いでしょう

>過去に作成したデータを測りなおすと小数点以下最小表示桁で誤差が出ることがあるということなんですが、

ということの例として節間を測ると誤差が出ているといってるわけですから、

作成当時にはそのような誤差がは出ていなかった
今のバージョンで測定してみたら誤差が出ている
だから今のバージョンの計算精度が落ちている

ということ仰っているわけですので、もしkuboさんが書かれている内容ならば当時既に気がついているはずです。
当時は気がつかなかったけど今頃気がついて、当時は問題無かったと思い込んでいるからこのような投稿になったという可能性も残っていますが

何にしても、あかんとくさんが再現できた小数点以下最下の桁が9または1の端数が出てしまう図形がはっきりすれば分かることだと思います

引用なし

パスワード


<Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:72.0) Gecko/20100101 Firefox/72.0@2.58.194.132>
・ツリー全体表示

2 / 336 ツリー    ←次へ | 前へ→
  新規投稿 ┃ツリー表示 ┃スレッド表示 ┃一覧表示 ┃トピック表示 ┃番号順表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム  
 1040629
ページ:  ┃  記事番号:  

C-BOARD Moyuku v1.03b3
Jw_cad Copyright (C)1997-2016 Jiro Shimizu & Yoshifumi Tanaka