悩んでみる

memo

記憶容量が有限であるため精度も有限である

要は short か int か long か、あるいは double か float か、はたまた BigDecimal かって話。

  • 演算ではビットサイズが非常に重要になる場合がある。
  • 精度が少なければ、容量が少なくて済む。
  • 精度が少なければ、高速に演算できる。
  • CPU のレジスタサイズやバスのビット幅など、ハードウェアに直結させた方が高速化しやすい。

double 64bit 浮動小数点数
ulong 64bit 符号なし

Core2Duo参考

・L1 キャッシュからの命令読み込み: 256bit
・L2 キャッシュ ⇔ メモリ: 64bit
・レジスタ: 64bit
・ALU での処理単位: 32bit (だったと思うけど 64bit かも)
・命令の最小単位: 8bit (実際に 1バイト命令は存在します)

でも結局メモリ食いまくる

今の時代メモリなんてカスみたいな値段だから良いのでは?