- 2005/02/13 Sun
-
何も起きずに済むかと思っていたら、どっこい障害発生。
5時には解放されましたが、来週も呼ばれそうな予感。
たこ焼の記憶が。
桁分割対応版の動作確認。
をしてみたが、PとQを変化させると上位桁が全て9で埋まる時がある。
どう考えても桁借りを繰り返している状況で、よくよく考えるとPUn-1-QUn-2<0の場合は-(QUn-2-PUn-1)とする必要が。
これにはUnの符号判定をする必要があるわけだが、PとQを乗じることによって発生する桁上がりを考慮すると単純にUn-1とUn-2を上位要素から比較していくわけにもいかず、別途用意したバッファに桁上がりしながらPUn-2およびQUn-1を格納し、これを上位要素から比較していくことで対処。
これにてP=3,Q=5,n=550の際の192桁とかも問題なく吐けるようなったのでした。
問題なくというか値は保証できませんが。
そして夕方。
昼あたりから記憶がない。
荷物の受け取りだけはしたようなそんなような。
ついでにGUI化してみたりとか。
学生の時分は計算の面倒なレポートがあるたびにこの手のツールを作ってたなぁと。
機械工学の有効桁なんてたかが知れているので、これだけ巨大な数を扱うのは初めてですが。
とりあえず2万桁までやってみたけど、計算はともかく表示遅すぎ。
そういえば理数科でしたと思いだしてみたりした、そんな休日。
遺産。
RSS1.0
桁分割対応版の動作確認。