카테고리 AI

RAG 파이프라인 설계 방법 — 청킹·검색·리랭킹 구성하기

RAG 파이프라인 설계 방법을 단계별로 정리합니다. 문서 청킹 전략부터 임베딩 모델 선택, 벡터 유사도 검색, 메타데이터 필터링, 리랭킹 구성과 점검 방법까지 쉽게 설명합니다. 문서 청킹은 원문을 검색 가능한 단위로 나누는 단계입니다.

AI 글쓰기 도구를 처음 사용하는 사람을 위해 프롬프트 템플릿 설계, 컨텍스트와 토큰 한계, 문체 제어, 환각 검증, AI 초안 편집 절차를 실전 중심으로 정리합니다. 먼저 주제, 목표 독자, 글의 목적, 원하는 분량을 정해야 합니다.

GPU VRAM 로컬 LLM 선택은 모델 파일 크기가 아니라 가중치와 KV 캐시를 합친 실제 사용량으로 결정됩니다. 내 그래픽카드로 어떤 모델을 돌릴 수 있는지 확인해 보세요.

로컬 LLM 응답이 느릴 때 확인해야 할 핵심 항목을 정리했습니다. 프롬프트 처리와 생성 속도 측정, GPU 메모리와 오프로딩, 양자화 수준, 컨텍스트 길이 점검 방법을 소개합니다. 먼저 프롬프트 처리와 답변 생성을 분리해야 합니다.

내 PDF 문서를 로컬 LLM에게 검색시키는 RAG 구축 방법을 정리합니다. PDF 텍스트 추출, 청킹, 메타데이터, 임베딩, 벡터 유사도 검색과 로컬 API 연결까지 단계별로 설명합니다.

구글 시트와 AI 연동해서 데이터 자동 정리하기 방법을 설명합니다. Google Apps Script, AI API, 구조화 프롬프트, 설치형 트리거와 결과 열 설계를 예제로 확인해보세요. 먼저 시트의 열을 고정합니다.

LM Studio로 로컬 LLM을 처음 사용하는 방법을 GUI 중심으로 정리했습니다. 설치부터 모델 검색·다운로드, 로드, 채팅, 생성 파라미터 설정까지 초보자도 따라할 수 있습니다.

GPU 없이 CPU와 RAM만으로 로컬 AI를 실행하는 방법을 설명합니다. GGUF, llama.cpp, 양자화, RAM 사용량과 모델 성능을 쉽게 정리했습니다.

로컬 LLM 구축을 처음 시작하는 분을 위해 Ollama 설치, 모델 다운로드, ollama run 실행 방법과 하드웨어 요구사항을 쉽게 정리했습니다.

MCP(Model Context Protocol)의 정의부터 호스트·클라이언트·서버 구조, Tools·Resources·Prompts, JSON-RPC와 전송 방식을 쉽게 설명합니다.