- 信頼度：低い
(1) 不定見
ChatGPT は，言語ゲームでテクストをつくる。
よって，人が話すのと同じで，不定見を示す：
その場の雰囲気で話す
言うことが簡単に変わる
この「不定見」にネガティブな意味は無い。
これでよいのである。
(2) ブラックボックス
ChatGPT が示す知識は，"Training" でつくられた脳から出て来る。
その脳はブラックボックスなので，信用のしようが無い。
(3) バイアス
ChatGPT は Web 検索もする。
しかしそれは，ChatGPT と組の LLM がまとめたデータベースへの API 検索。
そして ｢まとめる (丸める)｣ は，バイアスがかかること。
- 深掘り：苦手
ChatGPT が引いてくる知識は，脳が元。
脳は，知識の図書館みたいにはなっていない。
ChatGPT が話す知識は，自ずと話してしまうというものである。
｢自ずと話す｣ なので，出たとこ勝負。
深掘りは，具体の構成的分析。
出たとこ勝負でこれをうまくやるのは，難しい。
- 推論：暴走気味
ChatGPT が得意とするのは，概念・形式の論理的な分析・構成である。
理由は，言語の形式的処理で済むから。
言語の形式的処理は，言語が形式言語であればうまくいく。
コンピュータ・プログラムはこの場合なので，ChatGPT はプログラマから重宝されている。
自然言語だと，こうはいかない。
ことばは，生ものとくっついている。
言語の形式的処理は，続けるほどに，現実から遊離していく。
「推論の暴走」「妄想」の様相を呈してくる。
よって，ChatGPT から推論タイプの書式を得ようとするときは，「現実との照合」のブレイクを適切に挿むことが必要になる。
|