Indexへ
(23139)//【23134】→(23135)
------------------------
【タイトル】単精度と倍精度
【記事番号】 23134 (*)
【 日時 】04/10/18 11:32
【 発言者 】みなみ

初めまして、jwwだけの問題ではありませんが、問い合わせに協力して頂ければ嬉しいです。普段利用している分には、支障がないのですが、精度について、たまに問題にぶつかってます。自分の知識不足かと思いますが。調べられる範囲では調べましたが、明確な物は得られませんでした。
CADで、何桁を境に単精度と倍精度を区別しているのでしょうか?


Indexへ
(23134)←【23135】→(23292)
------------------------
【タイトル】単精度と倍精度の違い
【記事番号】 23135 (23134)
【 日時 】04/10/18 12:12
【 発言者 】joker
【 リンク 】http://www.atsmile.com/jw/



▼みなみさん:
>CADで、何桁を境に単精度と倍精度を区別しているのでしょうか?

CADに限った話ではありませんが、
実数をコンピュータで表現する際に、
数字を、±0.○○○〜×10の何乗 という表現をした時
       ↑
  ここが、7桁まで(7桁目には丸めが入るので信用できるのは6桁)
  というのが、単精度
  ここが、15桁まで(15桁目には丸めが入るので信用できるのは14桁)
  というのが、倍精度

単精度は、4バイトを使うので、データとしては軽いけれども精度が低い
倍精度は、8バイトを使うので、データとしては重いけれども精度は高い

という感じです。


Indexへ
(23135)←【23292】//(23140)
------------------------
【タイトル】Re(1):単精度と倍精度の違い
【記事番号】 23292 (23135)
【 日時 】04/10/21 17:32
【 発言者 】みなみ

jokerさん
早急な対応有難うございました。
大変役に立ちました。