同じプロンプトの2回の実行の間では、少なくとも4つの別々のものが変わります。そのうち言語モデルのサンプリング temperature は1つだけです。AI検索の仕組みのステージで説明したパイプラインを順にたどると、1つ目はクエリの拡張です。Google は、AI Overviews と AI Mode が「回答を作成するために…『クエリのファンアウト』という手法を使うことがあります」と文書に記しており、サブトピックとデータソースをまたいで複数の関連検索を発行します。3 これらのサブクエリは調べて取り出すものではなく生成されるものなので、ランキングが起きる前の段階で、サブクエリの組み合わせが違えば候補プールも違ってきます。
2つ目はリトリーバルそのものです。生成された各サブクエリが当たるのは、継続的に再クロールされ、複数のマシンにシャーディングされ、新鮮さとパーソナライズのロジックの影響を受ける、生きたインデックスです。3つ目は選択です。候補は統合され、重複が除かれ、再ランキングされ、コンテキストの予算に収まるまで切り詰められます。打ち切り線のすぐ近くにある僅差は、実行ごとに違う決着をします。4つ目は生成で、選ばれた情報源のどれをどの文に実際に結びつけるかをモデルが決めます。ある情報源がリトリーバルされ、読まれ、それでも引用されないことがあります。
この4つのうち2つは、あなたが制御できるものすべての上流にあります。だから temperature を0にしてもシステムは決定論的になりません。2026年の批判的サーベイははっきりこう述べています。報告された temperature ゼロは「インデックスも、リトリーバルも、外部サービスのバージョンも固定しない」。1