- プログラムが,
1. JSON を受け取る
2. ツールを実行する
(JSON 内の query を使う)
3. Observation(検索結果)を得る
- プログラムが,つぎの3つを LLM に入力:
Thought(= 文脈+ユーザ入力の圧縮版)
Observation(ツール結果)
「Final Answer を生成せよ」の命令
- LLM が,応答テクストを生成
検索結果に対しては,
検索結果を要約
DBの値を文章に埋め込む
計算結果を説明に組み込む
この応答は,ユーザにストリーミングされる。
|