Indexへ
(13494)//【13490】//(13496)
------------------------
【タイトル】天空率の三斜計算
【記事番号】 13490 (*)
【 日時 】08/07/28 14:29
【 発言者 】ゆう saigo@magic.odn.ne.jp

天空率の三斜計算をしたところ
扇形面積が検算結果と違っていました。

おそらく扇形中心角が表示は小数点３桁ですが、
内部計算はもっと多い桁数になっているのが原因だと思われます

この桁数の整合性を合わせる事はできませんでしょうか？

申請時には内部計算の誤差だと説明したのですが、
検算が出来る様に訂正するように指示されたので、
手計算で修正して提出しました。

計算桁数の指定など何か方法があれば教えてください。