AI는 무엇을 근거로 브랜드를 추천하는가

먼저, 공개되지 않은 것을 분명히 합니다

OpenAI는 ChatGPT가 어떤 기준으로 출처를 고르는지 공개한 적이 없습니다. 구글도 AI Overviews의 인용 소스 선정 기준을 공개하지 않았습니다.

따라서 “AI 인용은 이런 요소들의 가중 점수로 결정된다”는 식의 모델은 전부 바깥에서 관찰해 추정한 것입니다. 그 자체가 무가치하진 않지만, 사실처럼 팔리면 곤란합니다. 이 글에서는 공식 문서와 동료심사 논문으로 확인되는 것만 다룹니다.

구글 Gemini API 공식 문서에 기재된 동작 순서입니다. 모델이 검색 필요 여부를 판단하고, 하나 이상의 검색 쿼리를 스스로 생성해 실행한 뒤, 그 결과를 근거로 답변을 만들고 문장 구간마다 출처를 매핑합니다.

실무 함의는 분명합니다. 고객이 실제로 입력한 문장과 AI가 검색에 쓴 문장은 다릅니다. 키워드 하나를 노리는 방식이 잘 통하지 않는 이유가 여기 있습니다.

마이크로소프트 AI 팀이 2026년 5월 공개한 글에서 이 차이를 명확히 정리했습니다.

검색은 관련성의 가능성을 최적화한다. 그라운딩은 증거의 강도를 측정해야 한다.

같은 글은 답변용 인덱스가 갖춰야 할 네 가지를 제시합니다. 사실 충실성(콘텐츠를 쪼개고 변형하더라도 의미와 주장이 보존될 것), 출처 명확성, 신선도(오래된 사실은 곧바로 틀린 답을 만든다), 상충 감지입니다.

여기서 “신선도”와 “상충 감지”가 특히 중요합니다. 사이트 안에서 같은 사실을 서로 다르게 말하고 있으면, 그것 자체가 감점 요인이 될 수 있다는 뜻이기 때문입니다.

Microsoft AI, “Evolving role of the index: From ranking pages to supporting answers”, 2026-05-06

EMNLP 2024에 발표된 연구는 프롬프트 인젝션으로 대화형 검색엔진의 출처 순위를 신뢰성 있게 조작할 수 있음을 실증했습니다. 모델마다 제품명·문서 내용·문맥상 위치에 두는 가중치가 크게 달랐습니다.

이 연구가 말해주는 것은 두 가지입니다. AI 인용이 순수한 품질 신호의 결과만은 아니라는 것, 그리고 지금의 AI 인용 순위는 안정적인 최적화 대상이 아니라는 것입니다. 특정 순위를 약속하는 제안을 경계하셔야 하는 근거이기도 합니다.

Pfrommer et al., “Ranking Manipulation for Conversational Search Engines”, EMNLP 2024

통제할 수 없는 부분이 크다는 것을 인정하고 나면, 할 일이 오히려 분명해집니다.