「Tree of Thoughts: Deliberate Problem Solving with Large Language Models」は、思考の木：大規模言語モデルを用いた意図的な問題解決という意味です。このタイトルは、arXivに投稿されたコンピュータサイエンスの論文です。この論文では、言語モデルが複雑な計画や探索を必要とするタスクにおいて、より意図的な意思決定を行うための新しい枠組みである「思考の木」（ToT）を提案しています。例えば、24のゲームでは、GPT-4が思考の連鎖という手法で4%しか解けなかったのに対し、ToTは74%の成功率を達成しました。
アルゴリズムの違い
通常の CoT だと、LLM は問題の答えに向けて一直線に考えるため、その過程で何か間違っていたとしても誤った考えに基づいたまま突き進みます。
しかし、 ToT の場合は思考の各ステップで LLM 自身による評価を挟み、「無理筋」を早々に打ち切って別のアプローチを探索します。両者のこの違いを示すのがこの論文です。
arXiv論文の要約
この論文の要約は以下のようになります。
- 大規模な言語モデル（LM）は、様々なタスクにおいて一般的な問題解決能力を示しているが、推論時にはトークンレベルの左から右への決定しか行えない。
- これは、探索や戦略的な先読み、初期の決定が重要な役割を果たすタスクでは不十分である。
- この課題に対処するために、言語モデルの推論のための新しい枠組みである「思考の木」（ToT）を提案する。
- ToTは、言語モデルに対するプロンプトとして人気のある「思考の連鎖」を一般化し、問題解決に向けて中間的なステップとなる連続したテキストの単位（思考）を探索することを可能にする。
- ToTは、LMに意図的な意思決定を行わせるために、複数の異なる推論パスを考慮し、次の行動を決めるために選択肢を自己評価するとともに、必要に応じて先読みやバックトラックを行って全体的な選択を行う。
- 実験では、ToTが複雑な計画や探索を必要とする3つの新しいタスク（24のゲーム、創造的な執筆、ミニクロスワード）において、言語モデルの問題解決能力を大幅に向上させたことを示す。
ToT【Tree of Thoughts（思考の木）】はどのように機能しますか
ToTは、言語モデルが問題解決に向けて中間的なステップとなる連続したテキストの単位（思考）を探索することを可能にする枠組みです⁴⁶。ToTは、任意の問題を木構造で表現し、各ノードが入力とそれまでの思考のシーケンスからなる部分的な解を表します⁷。ToTは、言語モデルに複数の異なる推論パスを考慮し、次の行動を決めるために選択肢を自己評価するとともに、必要に応じて先読みやバックトラックを行って全体的な選択を行うことで、意図的な意思決定を行わせます⁴⁶。ToTは、人間のように問題解決するために、複雑な問題に対していくつかの可能な解決策を考え、それらを一つずつ評価していく方法に似ています。ToTは、以下の4つのフェーズから構成されます。
- ブレインストーミング：言語モデルが問題に対して複数の思考（解決策の候補）を生成します。
- 一次評価：言語モデルが各思考の利点と欠点を評価し、ランク付けします。
- 深堀り（詳細）：言語モデルが最も有望な思考を選択し、それをさらに深堀り（詳細化）します。
- 判断（結論/決定)：言語モデルが最終的な解決策を判断（結論/決定）し、出力します。
ToT【Tree of Thoughts（思考の木）】を使用すると生成AIは何ができるか？
ToTを使用すると、言語モデル（生成AI）は以下のことができます。
- 問題解決に必要な情報を入力として受け取ります。
- 問題に関連する複数の思考を生成し、それらを木構造で表現します。
- 各思考の妥当性や有用性を評価し、最も適切なものを選択します。
- 選択した思考をさらに詳細化し、問題解決に近づけます。
- 必要に応じて先読みやバックトラックを行い、最適な解決策を見つけます。
- 最終的な解決策をテキストとして出力します。
BingChatでのTree of Thoughtsプロンプト活用例
Tree of Thoughtsプロンプト（①ブレインストーミング）のBingChat質問回答例
Tree of Thoughtsプロンプト（②一次評価）のBingChat質問回答例
Tree of Thoughtsプロンプト（➂深堀り）のBingChat質問回答例
Tree of Thoughtsプロンプト（④判断（結論））のBingChat質問回答例
まとめ
今回は、ビジネスや私生活の課題解決に特化した新しいプロンプトエンジニアリングの手法である「Tree of Thoughtsプロンプト（ツリーオブソートプロンプト）」こういうコンセプトが新しくでたので、実際に使い方を紹介いたしました。この論文は【新プロンプトエンジニアリングChatGPTを課題解決マシンに変える！ツリーオブソートプロンプトをご紹介（Tree of Thoughts）または【ChatGPTフル活用！】人間と同じ思考をさせる新プロンプトエンジニアリングはコレ・・・！（Tree of Thoughts）として、大規模言語モデルは、ChatGPTを使ったものでした。このモデルをBingChatで実行可能か試した結果が上記結果です。BingChatでも実行できたこととToT【Tree of Thoughts（思考の木）】は、非常に有効なもでるであることが判明しました。色々のことの考具として、検証していこうと思いました。また、その検証結果は、報告いたします。お楽しみにお待ちください。
