← soulhn.github.io

Log

만들고 배운 것을 기록합니다.

· 학습 로그

RAG — LLM에게 오픈북 시험 보게 하기

답하기 전에 먼저 자료를 검색하고, 찾은 것만 근거로 답하게 하는 구조.

#용어#RAG

한 줄 정의

RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 질문을 받으면 먼저 관련 자료를 검색하고, 찾은 것만 근거로 답하게 하는 구조다.

내 말로

암기 시험을 오픈북 시험으로 바꾸는 것. 모르면 그럴듯하게 지어내던 학생(LLM)이, 책상 위의 책에서 찾은 페이지를 근거로만 답하게 된다. 모델을 더 똑똑하게 만드는 게 아니라 참고서를 쥐여주는 접근이다. 그래서 참고서(코퍼스)의 품질이 답의 품질을 좌우한다.

어디서 만났나

Build 03 — ask-soulhn에서 수집 → 청킹 → 임베딩 → 검색 → 생성의 5단계를 파이썬으로 직접 조립했다. 검색 결과가 빈약하면 “제 공개 기록에는 없는 내용입니다”라고 답하게 하는 환각 가드가 핵심이었고, 품질은 모델보다 재료 손질(청킹)에서 갈린다는 걸 두 번의 실패로 배웠다.

더 파볼 것

  • 코퍼스 설계 — 무엇을 안 넣느냐가 설계
  • 청킹, 리랭킹, 하이브리드 검색
  • 내가 운영하는 AI 에이전트 양성과정 커리큘럼에서 RAG의 위치 다시 보기

퀴즈

읽은 내용, 세 문제로 확인해보세요.

1. RAG의 작동 방식은 무엇인가?

2. RAG 접근 방식은 무엇과 비슷한가?

3. RAG의 답변 품질을 결정짓는 요소는 무엇인가?