카테고리 Research

vLLM·Ollama·OpenWebUI를 Docker Compose 한 파일로 묶어 GPU 워크스테이션에 5분 안에 배포하는 실전 가이드. compose.yaml 전문, GPU 노출, 볼륨 영속화, 리버스 프록시, 헬스체크까지 이 글 하나로 정리했다. 조각조각 흩어진 예제를 실제로 돌아가는 하나의 스택으로 합쳤다.

Claude Agent SDK bundles Claude Code's tool loop as a ready-made library; OpenAI Agents SDK trades that for provider-agnostic access to 100+ LLMs. This comparison lines up installation, pricing, and observability side by side, sourced from official docs — not guesswork. Which one saves you a rewrite later?

A decision framework for picking a local LLM stack in 2026 — quantization format, memory layer, inference engine, and deployment method — synthesized from one week of Kez9 Research coverage.

MCP 서버를 Docker·systemd·PM2 중 무엇으로 배포해야 안정적일까. 재시작 정책·격리 수준·무중단 재배포 기준으로 세 가지 방식을 실제 설정 예시와 함께 비교했다. Node.js 서버라면 PM2, 이미 Docker 인프라가 있다면 컨테이너, 단순한 개인 서버라면 systemd — 상황별 선택 기준까지 정리.

H100에서 SGLang이 vLLM보다 약 29% 빠르다는 독립 벤치마크 3건을 실제 수치로 정리했다. 동시성·TTFT·단일턴 워크로드별로 언제 어느 엔진이 유리한지, 설치 명령까지 한 번에 확인한다.

Mem0는 경량 메모리 API, Letta는 메모리 내장 stateful 에이전트 런타임이다. LoCoMo·LongMemEval 실측 벤치마크와 Apache 2.0 라이선스, 가격표까지 비교했다. 세션 간 기억을 어디에 맡길지 고민 중이라면 끝까지 읽어볼 것.

GGUF·AWQ·GPTQ 세 가지 로컬 LLM 양자화 방식을 원리부터 실측 벤치마크까지 비교했다. A100 기준 처리량·VRAM·정확도 수치로 어떤 하드웨어에서 어떤 방식을 써야 하는지 정리한다. 4bit 양자화 손실이 궁금하다면 끝까지 읽어볼 것.

RAG를 처음부터 다시 설계할 때 막히는 건 코드가 아니라 순서다. 청크 전략 → 임베딩 모델 → 벡터 DB → 리랭커까지, kez9에 쌓인 관련 글 6편을 단계별로 묶어 언제 읽어야 할지 정리한다.

RAG 청크 전략 비교 2026. 고정 크기·문장 단위·재귀적·시멘틱 청크 중 검색 정확도에 유리한 방식은 무엇일까. LangChain·LlamaIndex 기본값과 Chroma 연구팀의 실측 데이터, 그리고 이를 반박하는 최신 논문까지 근거로 정리했다. 문서 유형별 추천 전략을 확인하자.

Qdrant, Milvus, Weaviate 중 어떤 벡터 DB를 셀프호스팅해야 할까? 2026년 9월 30일 공식 GitHub 릴리스로 버전·스타 수를 재검증하고 GraphQL·멀티테넌시가 필요한 팀을 위한 선택 기준을 정리했다. pgvector·Chroma 비교는 별도 글로 연결한다.