Up 生成｣のしくみ : ｢生成文法｣ 作成: 2026-03-16
更新: 2026-03-19

    AI を ｢フレーム問題」で考えていた時代の AI 研究者は，｢テクスト生成｣ のしくみを捉えていた。
    そのしくみは，Chomsky が言い出した ｢生成文法｣ である。

    即ち，大きい枠から始め，枠の中に下位の枠を置くということを続ける。
    オニグモが巣網を張るやり方と同じである。

    訓練から Transformer が会得したのも，｢生成文法｣ である。
    それは，ChatGPT がテクストを ｢大中小項目｣ の階層的再帰構造につくることが，示している。


    しかし ｢生成AI｣ の成功で，研究者は ｢生成｣ の捉えを無くした。
    ただ読ませるだけで，書けるAI ができてしまったからである。
    幼児にことばを聞かせていると話すようになるのと同じ。
    ことばの理屈を教える必要は無い。

    替わって研究者が言い出したのが，｢確率｣ ｢確率分布｣。
    ChatGPT の階層的再帰構造のテクストも，先の見えない ｢トークンの逐次追加｣ でできる，と説かれることになった。