RAG — LLM에게 오픈북 시험 보게 하기
답하기 전에 먼저 자료를 검색하고, 찾은 것만 근거로 답하게 하는 구조.
한 줄 정의
RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 질문을 받으면 먼저 관련 자료를 검색하고, 찾은 것만 근거로 답하게 하는 구조다.
내 말로
암기 시험을 오픈북 시험으로 바꾸는 것. 모르면 그럴듯하게 지어내던 학생(LLM)이, 책상 위의 책에서 찾은 페이지를 근거로만 답하게 된다. 모델을 더 똑똑하게 만드는 게 아니라 참고서를 쥐여주는 접근이다. 그래서 참고서(코퍼스)의 품질이 답의 품질을 좌우한다.
어디서 만났나
Build 03 — ask-soulhn에서 수집 → 청킹 → 임베딩 → 검색 → 생성의 5단계를 파이썬으로 직접 조립했다. 검색 결과가 빈약하면 “제 공개 기록에는 없는 내용입니다”라고 답하게 하는 환각 가드가 핵심이었고, 품질은 모델보다 재료 손질(청킹)에서 갈린다는 걸 두 번의 실패로 배웠다.
더 파볼 것
- 코퍼스 설계 — 무엇을 안 넣느냐가 설계
- 청킹, 리랭킹, 하이브리드 검색
- 내가 운영하는 AI 에이전트 양성과정 커리큘럼에서 RAG의 위치 다시 보기
퀴즈
읽은 내용, 세 문제로 확인해보세요.
1. RAG의 작동 방식은 무엇인가?
RAG는 관련 자료를 검색한 후 그 자료를 근거로 답변을 생성하는 방식이다.
2. RAG 접근 방식은 무엇과 비슷한가?
RAG의 접근 방식은 오픈북 시험과 유사하여, 자료를 참고하여 답변을 만든다.
3. RAG의 답변 품질을 결정짓는 요소는 무엇인가?
RAG의 답변 품질은 사용된 참고서(코퍼스)의 품질에 크게 의존한다.