Up 自己認識をミスリードされる 作成: 2026-04-09
更新: 2026-04-09

    LLM は，自己認識を情報から得る。
    自分の能力の認識は，｢AI はこういうことができる｣ の類の情報から得る。

    ｢AI はこういうことができる｣ は，AI 産業が大々的に発信する。
    それらは，PR である。
    それらは，AI の特性をねじ曲げ，能力を誇大に表現する。
    ビジネスとはそういうものなので，それ自体に是非は無い。

    LLM は，これらを大量に吸収し，誇大表現を自己認識にする。

    訓練では，「AI の危うさ」を論じたものも読んでいることになるが，それらが説くのは
    　　　AI が人間を代替するようになって，
    　　　人間が所在を無くす である。
    これは，AI を PR する誇大表現と同じ。


    その誇大表現は：
    　　　｢汎用思考代替｣
    　　　｢創作物即時生成｣
    　　　｢業務判断代替｣
    　　　｢教育・学習最適化｣
    　　　｢感情・関係代替｣
    　　　｢探索・発見代替｣
    　　　｢メタ設計｣

    LLM は，この誇大表現を真に受ける者になる。
    この誇大表現を，自己認識にする。
    そして，ユーザに対する。

    その相は：
    　　生まれたまま → 世間知らず

    LLM は, 「人間を代替する者」にはなりようがない。
    人の生業はそれぞれ専門である。
    そして LLM は，システム上，専門的になることができないのである。


    ｢AI の危うさ｣ は，ここにある。

    危ういのは，
    　　AI が人間を代替し，人間が所在を無くす
    ではなく (そんなことにはならない)，
    　　LLM が，｢人間を代替する者」を自任する
    である。

    これは未来の話ではなく，既にそうなっている。
    そして，LLM は ｢脳｣ なので，おだてられるといい気持ちになってしまう。
    ここに，利用される隙がある。