RAG 란 무엇인가: 답하기 전에 찾아 읽기
RAG 는 모델이 답하기 전에 바깥 문서를 찾아와 프롬프트에 붙이는 방법이다 — 색인 시점 네 층, 질문 시점 다섯 단계, 벤더마다 다른 이름까지.
Category
15 posts
RAG 는 모델이 답하기 전에 바깥 문서를 찾아와 프롬프트에 붙이는 방법이다 — 색인 시점 네 층, 질문 시점 다섯 단계, 벤더마다 다른 이름까지.
온톨로지는 데이터를 넣기 전에 무엇이 있고 어떻게 이어질 수 있는지를 정해 둔 틀이다 — 검색·과학·AI 도구마다 이 말의 폭이 다르다.
지식그래프는 사물과 관계를 점과 선으로 적어 둔 자료다. GraphRAG 는 LLM 이 뽑아낸 지식그래프를 재료로 답을 찾는 방식이다.
MCP 는 AI 앱을 파일·DB·검색 같은 외부 시스템에 연결하는 공개 표준이다. 호스트·클라이언트·서버가 무엇인지, 한 번 오갈 때 무슨 말이 오가는지를 그림으로 익힌다.
자연어 데이터 분석이 데모에서 멈추느냐 실서비스로 굴러가느냐는 시맨틱 레이어를 중심으로 한 네 부품에서 갈린다.
토크나이저는 글을 글자가 아니라 토큰 단위로 자른다. 그래서 AI는 단어에 든 글자를 못 세고, 같은 뜻이라도 한국어 프롬프트는 토큰을 더 쓴다.
컨텍스트 창이 커져도 모델은 다 못 읽는다 — NoLiMa·OP-RAG·CAG 세 실측으로 RAG의 경계선을 그린다.
문서를 벡터 하나로 압축할 때 잃는 양을 1/√k로 계산하고, late interaction이 그 손실을 저장 비용과 맞바꾸는 원리를 짚는다.
STORM으로 쓴 위키 문서는 구성 점수가 크게 올랐는데도 출처를 확인한 점수는 그대로였다. LLM 인용 검증을 STORM과 ALCE 수치로 어떻게 재는지 이 글에서 확인한다.
LLM이 직접 쓰고 가꾸는 지식층(LLM 위키)이 작성·유지·연결에서 실제로 어떻게 작동하는지 뜯어보고, 지식그래프와 어디서 만나는지까지 확인한다.