2009-03-01から1ヶ月間の記事一覧

悩んでみる

記憶容量が有限であるため精度も有限である 要は short か int か long か、あるいは double か float か、はたまた BigDecimal かって話。 演算ではビットサイズが非常に重要になる場合がある。 精度が少なければ、容量が少なくて済む。 精度が少なければ、…