검색 지표는 전부 정상인데 왜 답은 틀리나 — 검색 편향의 정체
← 전체 목차 · 이전: RAG 검색 전략은 어떻게 설계하는가 · 다음: 쿼리 재작성은 왜 함부로 하면 안 되나
**"리콜률도 높고 유사도 점수도 높은데 답이 이상하다"**는 제로 리콜(문서 19)과 다른 장애다. 제로 리콜은 아무것도 못 건졌다는 신호라도 주지만, 이 장애는 모든 지표가 초록불인 채로 틀린 답을 낸다. 가장 위험한 이유는 딱 하나다 — 아무도 이상하다고 느끼지 못한다.
| 일반적인 검색 불량 | 검색 편향 |
|---|
| 증상 | 유사도 낮음, 리콜 실패 | 유사도 매우 높음, 그런데도 답이 빗나감 |
| 발견 난이도 | 쉬움(점수가 알려준다) | 어려움(점수는 계속 정상이라고 말한다) |
| 원인 | 리콜이 부족함 | 리콜은 됐는데 엉뚱한 것을 정확히 리콜함 |
정의: 국소 의미 매칭 ≠ 전역 의도 일치
벡터가 재는 것은 "이 문장이 저 문장과 문자적으로 닮았는가"이지 "이 조각이 사용자의 진짜 질문에 답하는가"가 아니다. 둘을 같다고 착각하는 순간 검색 편향이 생긴다.
사용자 핵심 질문
│
▼
국소적으로는 유사한 조각(주변부 설명, 부속 조항)이 고득점으로 리콜됨
│
▼
조각 단독으로는 "닮았다" — 하지만 전역 맥락에서는 무관하거나 어긋남
│
▼
모델이 국소 정보만으로 답변 → 결론이 신뢰 불가
4대 원인
| # | 원인 | 메커니즘 | 전형적 신호 |
|---|
| 1 | 국소 조각 매칭, 전역 맥락 이탈 | 벡터가 문서의 부속·주변 설명을 핵심 내용과 똑같이 고득점 처리 | 조각만 보면 맞는데 전체 질문 맥락에서 보면 빗나감 |
| 2 | 동의어·동종상이(동의어·다른 맥락) 혼동 | 문자 유사도는 높지만 업무 시나리오가 다른 규정(예: 환불 규정 vs 배상 규정)을 서로 리콜 | 규정 혼용, 답변이 합리적으로 보이지만 틀림 |
| 3 | 질문 범화·모호 | 구어체·핵심어 부족 질문에서 벡터가 고빈도 유사어를 우선 매칭, 진짜 의도를 놓침 | "형식은 맞는데 결과는 틀림"(답이 문법적으로 완결돼 보임) |
| 4 | 다중 조각 혼재, 주객전도 | 핵심·부차·구식 정보가 우선순위 구분 없이 한꺼번에 리콜되어 모델이 부차 정보를 먼저 읽음 | 답변의 초점이 흐려짐, 핵심 결론이 뒤로 밀림 |
3대 대응 방안
① 검색 전에 의도 인식층을 둔다
검색하기 전에 업무 시나리오 / 핵심 요구 / 질문 유형 세 가지를 먼저 분류해 확정한다. 이 세 필드로 동종상이(동의어·다른 맥락) 후보를 원천에서 걸러낸다. (문서 11의 "재작성 불가 필드"와는 다른 층위 — 여기서는 재작성이 아니라 필터링 조건을 만든다.)
② 매칭 단위를 토큰에서 문단으로 올린다
| 토큰 레벨 국소 매칭 | 문단 레벨 전역 매칭 |
|---|
| 평가 단위 | 낱개 토큰·문장 | 완결된 문단 |
| 쉽게 리콜되는 것 | 부속 설명, 국소적으로만 겹치는 조각 | 질문 의도에 전체적으로 부합하는 완결 조각 |
| 모델이 받는 것 | 문자 파편 | 완결된 맥락 |
판정 기준을 "단어가 닮았는가"에서 "이 조각이 완결된 업무 맥락을 뒷받침하는가"로 바꾼다.
③ 다경로 검색을 상호 검증에 쓴다
| 경로 | 역할 |
|---|
| 벡터 의미 검색 | 모호 매칭 |
| 키워드 정밀 검색 | 정밀 백스톱 |
| 규칙 검색 | 시나리오 고정 |
세 경로 결과는 단순히 이어 붙이지 않고 상호 검증 → 무관 항목 감점 → 핵심 항목 상단 고정 → 통일 재정렬의 순서로 수렴시킨다. 단일 경로에는 반드시 사각지대가 있으므로, 안정성은 "한 경로를 더 정교하게"가 아니라 "경로 간 교차 검증"에서 나온다.
핵심 통찰
- 검색 지표가 정상인 것은 "안전하다"는 증거가 아니다 — 리콜률·Top-1 유사도 같은 지표는 "닮았는가"만 측정하고 "맞는가"는 측정하지 않는다. 평가셋에 "유사도는 높지만 답은 틀린" 케이스를 별도로 수집하지 않으면 이 장애는 영원히 오프라인에서 드러나지 않는다.
- 검색 편향은 "검색이 부정확한 것"이 아니라 "정확하게, 엉뚱한 곳을 겨냥한 것"이다 — 일반적인 검색 불량과 원인 규명 경로가 완전히 다르다. 전자는 청킹·Embedding·임계값을 의심하면 되지만, 후자는 매칭 단위와 의도 정렬을 의심해야 한다. 둘을 같은 항목으로 취급하면 원인 규명이 영원히 prompt 쪽으로 새어 나간다.
- 국소 유사와 전역 관련은 서로 다른 두 개의 측정치다 — 조각 하나가 질문과 국소적으로 닮았다고 해서 그 조각이 질문 전체의 답을 뒷받침한다는 뜻은 아니다. 이 구분이 없으면 "부속 설명이 핵심 조항을 밀어낸다"는 사고가 구조적으로 반복된다.
- 동의어는 "문자가 닮음"과 "업무가 다름"을 동시에 만족시키기 때문에 가장 위험하다 — 환불·배상처럼 같은 도메인의 근접 규정은 벡터가 필연적으로 서로를 리콜한다. 해법은 더 나은 유사도가 아니라 명시적 시나리오 경계(의도 분류 + 규칙 검색으로 시나리오 고정)다.
- 리콜은 많을수록 편향 위험이 커진다 — Top-K를 무작정 키우는 것은 부차·간섭·구식 정보를 함께 끌고 오는 것과 같다. 우선순위 표시 없이는 모델이 자기 주의력 순서대로 읽어 주객이 전도된다.
- 의도 인식은 반드시 검색보다 앞에 와야 한다 — 검색 후 재정렬로 편향을 걸러내는 것은 "이미 리콜된 것 중에서" 고르는 필터링일 뿐이다. 애초에 리콜되지 않은 것은 걸러낼 대상조차 되지 못한다. 먼저 무엇을 원하는지 명확히 한 뒤 무엇을 검색할지 결정해야 한다.
- 고정밀 업종에서는 "답을 완벽하게 만드는 것"보다 "답의 리스크를 통제 가능하게 만드는 것"이 우선이다 — 정무·법무·금융·의료 시나리오에서는 근거 출처, 근거 링크, 신뢰도, 사람 검증 상태를 답변에 동반시켜 오답의 대가를 낮추는 것이 검색 정밀도 자체를 극한까지 밀어붙이는 것보다 실효적이다.
엔지니어링 실전 Tips
- "유사도 높음 + 답 틀림" 전용 배드케이스 셋을 따로 만들 것: 일반 리콜 실패 배드케이스와 섞으면 원인 규명 방향이 계속 청킹·Embedding 쪽으로 오도된다.
- 동의어·근접 규정은 규칙 검색으로 시나리오를 명시적으로 고정할 것: 벡터가 스스로 구분해 주기를 기대하지 말 것 — 환불/배상처럼 문자가 닮고 업무가 다른 쌍은 사전에 목록화해 관리한다.
- Top-K를 늘리기 전에 우선순위 표시부터 붙일 것: 핵심 근거 / 보충 설명 / 구식 자료를 구분하지 않고 늘린 리콜량은 편향을 증폭시킬 뿐이다.
- 의도 인식 결과를 검색 조건에 실제로 반영할 것: 분류만 하고 다운스트림 동작이 바뀌지 않으면 그 단계는 장식이다 — 업무 시나리오 / 핵심 요구 / 질문 유형 세 필드가 검색 범위나 가중치를 실제로 바꿔야 한다.
- 고위험 업종은 답변에 근거 출처·신뢰도·검증 상태를 강제로 동반시킬 것: 완벽한 답보다 감사 가능한 답이 우선이다.
- 더 파고들 방향: "유사도 높음·정답 낮음" 케이스의 자동 탐지(임베딩 유사도와 LLM-as-Judge 정답 판정의 상관관계 분석), 문단 레벨 전역 매칭의 구체적 구현(문장 임베딩 평균 vs 요약 임베딩 vs Late Interaction), 다경로 융합에서 "무관 항목 감점"의 구체적 알고리즘(교차 검증 스코어링 vs 학습 기반 재정렬), 검색 편향 전용 회귀 평가셋의 지속적 확충 프로세스.