RAG 란 무엇인가: 답하기 전에 찾아 읽기
RAG 는 모델이 답하기 전에 바깥 문서를 찾아와 프롬프트에 붙이는 방법이다 — 색인 시점 네 층, 질문 시점 다섯 단계, 벤더마다 다른 이름까지.
Tag
RAG
6 posts
지식그래프란 무엇인가: 벡터 검색이 못 잇는 것
지식그래프는 사물과 관계를 점과 선으로 적어 둔 자료다. GraphRAG 는 LLM 이 뽑아낸 지식그래프를 재료로 답을 찾는 방식이다.
컨텍스트 창 100만 토큰 시대, RAG는 언제 이기고 언제 지는가
컨텍스트 창이 커져도 모델은 다 못 읽는다 — NoLiMa·OP-RAG·CAG 세 실측으로 RAG의 경계선을 그린다.
late interaction — 한 문서에 주제가 32개면 단일 벡터의 유사도가 5.7배 줄어든다
문서를 벡터 하나로 압축할 때 잃는 양을 1/√k로 계산하고, late interaction이 그 손실을 저장 비용과 맞바꾸는 원리를 짚는다.
RAG 벤치마크 점수, 누가 채점했나 — 벤더 성적표를 읽는 눈
RAG 벤치마크의 자랑 수치는 대부분 자기 채점이다 — 채점자를 물으면 그 우위는 무너지거나 뒤집힌다.
GraphRAG 비용은 사라지지 않는다 — 인덱싱에서 질의로 자리를 옮길 뿐
벤더의 '인덱싱 비용 1000배 절감' 헤드라인, 출처를 열면 baseline이 없다. 실측 $5~$120과 비용이 옮겨가는 자리를 해부한다.