archive-log 님의 블로그

이전글 LangChain #2 - 개발 환경 세팅 + LLM + 문서 기반 답변에서는 텍스트 문서를 프롬프트에 통째로 넣고 LLM에게 질문과 함께 전달해 응답을 생성했다.짧은 문서라면 충분히 잘 작동하지만, 문서가 길거나 여러 개일 경우에는 토큰 한도, 성능, 관리 면에서 명확한 한계가 존재한다. 이번 글에서는 그 구조를 더 유연하게 확장한 RAG(Retrieval-Augmented Generation) 개념을 소개하고, LangChain으로 이를 직접 구현해 보려고 한다.직접 삽입 방식의 한계[문서 내용] + [질문] → [LLM 프롬프트] → [응답] 직접 삽입 방식의 경우 문서를 직접 프롬프트에 넣기 때문에 구현이 매우 간단하다.하지만 이 방식은 문서가 길어지거나 여러 개일 경우, LLM의 입력 한..

이전글 LangChain #1 - 어디에 쓰이는 물건인가 에서는 이전글 LLM, LangChain, LangGraph, RAG, Agent 개념을 간단히 정리했다. 이번 글에서는 개발 환경을 세팅하고. txt 파일을 불러와 문서 내용을 기반으로 답변을 생성하는 구조까지 실습해보려고 한다.Python 개발 환경 준비1. pyenv 설치pyenv는 여러 버전의 Python을 설치하고 전환할 수 있게 해주는 도구이다. 설치 후 쉘 설정 파일(~/. zshrc, ~/. bashrc 등)에 아래 내용을 추가하고 변경 사항을 적용한다.# 설치 (macOS 기준)brew updatebrew install pyenv# 쉘 파일안에 추가export PYENV_ROOT="$HOME/.pyenv"export PATH="$P..

요즘 LLM, LangChain, LangGraph, RAG, AI Agent 같은 단어들이 자주 보인다. 하나하나 생소하고, 비슷하게 느껴졌는데 조금씩 정리해 보니 각자 역할이 다 있었다.지금부터 내가 공부하면서 이해한 만큼 정리해보려고 한다.1. LLM (Large Language Model) 대량의 텍스트를 학습한 언어 모델사용자가 입력한 문장을 보고 그에 맞는 응답을 생성해 내는 말 그대로 뇌 역할을 하는 AIGPT나 Claude, Gemini 같은 모델들이 여기에 해당된다.2. LangChainLLM을 실제 애플리케이션에서 쓰기 위해 등장한 프레임워크프롬프트, 입력/출력, 외부 함수 호출, 문서 검색 등 여러 요소들을 조립해서 하나의 흐름으로 만들 수 있게 해 준다.LLM을 실제로 쓸 수 있게..