같은 프롬프트의 두 실행 사이에서는 적어도 네 가지가 따로 달라지고, 그중 하나만이 언어 모델의 샘플링 temperature입니다. AI 검색의 작동 방식 단계에서 설명한 파이프라인을 따라가 보면, 첫째는 쿼리 확장입니다. Google은 AI Overviews와 AI Mode가 “응답을 만들기 위해 … ‘쿼리 팬아웃’ 기법을 사용할 수 있다”라고 문서에 밝히고 있으며, 하위 주제와 데이터 소스를 가로질러 여러 관련 검색을 발행합니다.3 이 하위 쿼리들은 찾아보는 것이 아니라 생성되는 것이므로, 순위 매기기가 일어나기 전에 이미 다른 하위 쿼리 묶음이 다른 후보 풀을 만들어 냅니다.
둘째는 리트리벌 자체입니다. 생성된 각 하위 쿼리가 닿는 곳은 끊임없이 다시 크롤링되고, 여러 기계에 샤딩되어 있으며, 신선도와 개인화 로직의 영향을 받는 살아 있는 색인입니다. 셋째는 선택입니다. 후보들은 합쳐지고, 중복이 제거되고, 재순위화되어 컨텍스트 예산에 맞게 잘립니다. 절단선 근처의 근소한 동점은 실행마다 다르게 결판납니다. 넷째는 생성으로, 선택된 출처 가운데 어느 것을 어느 문장에 실제로 붙일지 모델이 정합니다. 어떤 출처는 리트리벌되고, 읽히고, 그러고도 인용되지 않을 수 있습니다.
이 넷 가운데 둘은 여러분이 통제하는 모든 것의 상류에 있습니다. temperature를 0으로 돌려도 시스템이 결정론적으로 되지 않는 이유가 이것입니다. 2026년 비판적 서베이는 이를 분명하게 말합니다. 보고된 temperature 0은 “색인도, 리트리벌도, 외부 서비스의 버전도 고정하지 않는다”.1