この文書は、大規模言語モデルの推論能力を向上させる新しいプロンプト戦略「思考のアルゴリズム(AoT)」について説明しています。

要点は以下の通りです:

• AoTは、外部のツリー探索メカニズムに頼ることなく、LLMの内在的な再帰能力を利用してアルゴリズム的推論経路を導く戦略です。

• AoTはゲームの24や5x5のミニクロスワードなどのタスクで、1つまたは数回のクエリで既存の方法を上回るパフォーマンスを達成しています。

• AoTはDFSやBFSなどのアルゴリズムの例をコンテキストとして用い、LLMにアルゴリズム的探索プロセスを内面化させます。

• AoTはLLMにアルゴリズム以上の効率的な探索ができるよう、独自の「直観」を取り入れる能力があることを示唆しています。

• AoTはクエリ数とコストを大幅に削減しつつ、世界知識を必要とするタスクで高いパフォーマンスを維持できる可能性があります。

• AoTはLLMの新しい「文脈学習」のパラダイムを提示しており、$問題、探索プロセス、解決策$の構造は従来の$問題、解決策$や$問題、解決策への段階的ステップ$とは異なります。

以上が、この文書の主な内容です。

Figure1は、標準プロンプト、CoT(Chain-of-Thought)、AoT(Algorithm of Thoughts)のゲームの24における違いを示したものです。

• 標準プロンプトは直接的な答えを目指します。

• CoTは最終解決策に至る段階的ステップを描写します。

• AoTはCoTとは異なり、アルゴリズム的探索プロセスを統合した文脈の例を用います。これは'1','2','3'のマーカーで示される「最初の演算」によって導かれるサブツリーの探索です。

図では'8 6 4 4'の問題に対して、3番目のサブツリー探索('5. 11 + 1')と、その後の可能なステップの評価が示されています。AoTは解決策に至る有望なステップを生成し、さらに進むか別の実行可能なサブツリーに戻るかを評価します。