Up 計算 作成: 2025-09-09
更新: 2025-09-11

    人間脳の場合，暗算は計算過程が保持できないので，難しい。
    筆算は，計算過程が保持されるので，アルゴリズム通りに進めば，正解に至る。

    Transformer 脳も，これと同じである。
    同じ桁の２数のかけ算を実験したところ，
      暗算は，３桁を超えると間違う。
      筆算は，ロジックに正しく従うため，正解に至る。

    　・実験「かけ算の暗算」
    　・実験「かけ算の筆算」


    実験での「暗算」と「筆算」の意味は：
      暗算 : 与えられた２数に対し，その積の値だけを返す
      筆算 : 計算過程 (→ 積の値) を「テクスト生成」する。

    これは，それぞれつぎの構造になる：
    　　　暗算：

    　　　テクスト　　　数の文字列　　＜eos＞
    　　　　　　　　　　　　↑　　　　　↑
    　　　　　　│　処理　　│　処理　　│
    　　　　　　└─────┴─────┘
    　　　　　　　　　　　＜処理＞

    　　　筆算：
    　　　　　　　　計算過程 (→ 積の値) を書く
    　　　テクスト　　　トークン　・・・　　＜eos＞
    　　　　　　　　　　　　↑　　　　　　　　↑
    　　　　　　│　処理　　│　　・・・　　　│　　│
    　　　　　　└─────┴──・・・───┘
    　　　　　　　　　　　＜処理＞

    ここで，縦線で区切った「処理」は，トークン追加アルゴリズムの１回処理。
    これが＜eos＞まで続いて，＜処理＞になる。
    ＜処理＞は，テクストに対応して決まる。
    この意味で，open-ended である。
    実際, 「暗算」実験では Transformer 脳はこれを暗算に使い，「筆算」実験では筆算に使ったというわけ。


    暗算の不安定と筆算の安定は，つぎのようにまとめられそう：
    • 暗算
        計算過程の保持を，キャッシュでやる。
        保持・参照の困難は，キャッシュ容量の限界の現象。
    • 筆算
        計算過程の保持を, 「テクスト生成」でやる。，
        テクストの参照を，計算過程の参照にする。