Jw_cad 情報交換室−その3New

 JWW についての情報交換の場としてお使いください
初心者の方などのご相談は Jw_cad 相談 室−その2をご利用ください
なお、情報交換室と相談室の両方に同じ内容を投稿するのはご遠慮ください

2009年9月以前の発言過去ログのページからご覧ください。

それ以降の過去ログは消失しています。
申し訳ありませんが、復活の予定はありません。


  新規投稿 ┃ツリー表示 ┃スレッド表示 ┃一覧表示 ┃トピック表示 ┃番号順表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム  
42 / 333 ツリー    ←次へ | 前へ→

計算精度について あかんとく 20/2/5(水) 16:22

Re:計算精度について sera 20/2/9(日) 12:43

Re:計算精度について
 sera  - 20/2/9(日) 12:43 -
▼kuboさん:

>そういうことなら、数値の丸めの問題で常に発生します。
>
>ひょっとすると、666.67 となるべきところが、666.66 に表示されるという
>ことでしょうか。

そのような話では無いでしょう

>過去に作成したデータを測りなおすと小数点以下最小表示桁で誤差が出ることがあるということなんですが、

ということの例として節間を測ると誤差が出ているといってるわけですから、

作成当時にはそのような誤差がは出ていなかった
今のバージョンで測定してみたら誤差が出ている
だから今のバージョンの計算精度が落ちている

ということ仰っているわけですので、もしkuboさんが書かれている内容ならば当時既に気がついているはずです。
当時は気がつかなかったけど今頃気がついて、当時は問題無かったと思い込んでいるからこのような投稿になったという可能性も残っていますが

何にしても、あかんとくさんが再現できた小数点以下最下の桁が9または1の端数が出てしまう図形がはっきりすれば分かることだと思います

引用なし

パスワード


<Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:72.0) Gecko/20100101 Firefox/72.0@2.58.194.132>
・ツリー全体表示

42 / 333 ツリー    ←次へ | 前へ→
  新規投稿 ┃ツリー表示 ┃スレッド表示 ┃一覧表示 ┃トピック表示 ┃番号順表示 ┃検索 ┃設定 ┃過去ログ ┃ホーム  
 1088240
ページ:  ┃  記事番号:  

C-BOARD Moyuku v1.03b3
Jw_cad Copyright (C)1997-2016 Jiro Shimizu & Yoshifumi Tanaka