2010-01-14から1日間の記事一覧

多バイト長計算のライブラリって

昔、多バイト長計算のライブラリを作ってみたことがあります。 チューニングしようとしてもなかなか速くなりません。 計測してみると、目的の四則演算よりも、 その前処理と後処理の10進数⇔16進数変換がほとんどの時間を占めていました。 計測するまで気…

円周率ケタ数で新記録、仏技術者が一般パソコンで(続)

おっ、そのPCのスペックを見つけました。 http://slashdot.jp/science/10/01/06/0336215.shtml Fabrice BellardさんのPCのスペック。 CPU:Core i7(2.93GHz) メモリ:6GB HDD:7.5TB(1.5TB×5)HDDは予想どおり。「答え」に必要な容量の数倍です。 メモリ…