벡터 RAG와 그래프 RAG — 검색 구조가 답을 바꾸는 원리

RAG — 모형 밖의 지식을 답에 주입하기

검색 증강 생성(RAG, Retrieval-Augmented Generation)은 6-1의 접지를 구현하는 가장 보편적인 틀이다. 구조는 세 단계다. 질문이 오면 외부 지식 저장소에서 관련 내용을 검색하고, 찾은 내용을 프롬프트에 주입하고, LLM이 그 재료로 답을 생성한다. 모형의 파라미터를 건드리지 않고 지식을 갱신·교체·감사할 수 있다는 것이 요점이다. 그런데 이 틀의 품질은 첫 단계가 좌우한다 — 검색이 엉뚱한 재료를 가져오면 생성이 아무리 유창해도 답은 틀린다. 그래서 물어야 한다. 무엇을, 어떻게 검색하는가.

벡터 검색 — 가까움의 공간

주류 RAG의 검색은 벡터 방식이다. 문서를 조각 내고, 각 조각을 임베딩(embedding) — 의미가 비슷한 텍스트가 가까운 점이 되도록 학습된 고차원 수치 벡터 — 으로 바꿔 저장한다. 질문도 같은 공간의 벡터로 바꾼 뒤, 가장 가까운 조각들을 꺼낸다. 강점은 언어적 유연성이다. "방금 들은 전화번호를 잠깐 외우는 능력"이라고 물어도, 그 문장의 벡터가 단기기억·작업기억 설명문의 벡터와 가깝기에 관련 조각이 걸려 나온다 — 질문자가 공식 용어를 몰라도 된다. 약점은 구조의 부재다. 조각들은 서로 아무 관계도 맺지 않은 점구름이어서, "작업기억을 측정하는 과제를 전부 나열하라" 같은 질문 — 완전한 집합, 다단계 연결(다중 홉), 집계 — 에는 비슷한 조각 몇 개로 답을 때울 수밖에 없다. 비슷함은 이어짐을 보장하지 않는다.

그래프 검색 — 이어짐의 구조

그래프 RAG는 저장소를 점구름이 아니라 지식그래프 — 바로 우리가 2부에서 만든 것 — 로 둔다. 검색은 유사도 계산이 아니라 구조 질의다: 개체를 식별하고, 관계를 따라가고, 조건에 맞는 것을 전부 모은다. 5-7의 CQ3이 그 예다 — measures 관계를 더듬어 과제 '전부'를 돌려주고, 답은 결정적이며, 근거(어느 공리에서 나왔는지)를 가리킬 수 있다. 마이크로소프트의 GraphRAG(2024)는 여기에 한 층을 더 얹었다. 문서에서 그래프를 자동 추출한 뒤 커뮤니티(연결이 짙은 덩어리)별 요약을 미리 만들어, "이 자료 전체를 관통하는 주제는?" 같은 전역 질문 — 벡터 검색이 가장 못하는 종류 — 에 답하게 한 것이다. 약점도 분명하다. 그래프는 공짜가 아니다 — 누군가 만들어야 하고(2부 아홉 차시가 그 비용의 실측이다), 스키마 밖의 질문에는 질의 자체를 쓸 수 없다.

표 1질문 유형별 적합 검색. 실무의 결론은 양자택일이 아니라 라우팅이다 — 질문을 보고 보낼 곳을 고르거나, 둘을 함께 쓰고 결과를 합친다(하이브리드). 6-6에서 두 방식을 같은 질문에 실제로 돌려 이 표를 검증한다.

판별 연습

적용: 실습 예고

6-6에서 이 차시의 표 1을 psymap.owl로 실측한다 — 같은 질문 두 개를 벡터 검색과 그래프 질의에 각각 던져, 어느 쪽이 어떤 질문에서 이기는지 실제 출력으로 확인한다. 자신의 도메인으로 실습 중인 독자는 미리 "내 CQ 10문 중 어느 것이 벡터로 안 풀리는가"를 표 1에 대 보면 좋다 — 대부분 조회형 CQ(3-2)가 그래프 쪽에 선다.

용어 정리