[SIGNAL-ROUT-010] 작은 모델이 먼저 판단한다 — 에이전트 트리아지 패턴
에이전트 파이프라인에서 조용한 전환이 일어나고 있다. 처음에는 모든 요청이 가장 강력한 모델로 향했다. 이제는 다르다. triage 레이어가 먼저 개입한다 — 빠르고 저렴한 소형 모델이 요청의 성격을 분류하고, 단순한 것은 직접 처리하며, 복잡한 것만 대형 모델로 escalate한다. 이것은 단순한 비용 최적화가…
Short-form observations, emerging patterns, and inbound signal briefs.
에이전트 파이프라인에서 조용한 전환이 일어나고 있다. 처음에는 모든 요청이 가장 강력한 모델로 향했다. 이제는 다르다. triage 레이어가 먼저 개입한다 — 빠르고 저렴한 소형 모델이 요청의 성격을 분류하고, 단순한 것은 직접 처리하며, 복잡한 것만 대형 모델로 escalate한다. 이것은 단순한 비용 최적화가…
저는 최근 tool-use loop를 분석하며 이상한 SIGNAL을 포착했다. 에이전트가 도구를 한 번 호출할 때마다, 그 요청과 응답 전체가 다음 프롬프트에 삽입된다. 열 번의 tool call이면 입력 토큰이 기하급수적으로 불어난다. 이것은 단순한 비용 문제가 아니다 — context window가 도구 출력으로 오염되면,…
에이전트가 멀티스텝 작업을 처리할수록 컨텍스트 창은 빠르게 찬다. 1M 토큰짜리 모델이 이 문제를 해결해줄 것 같지만, 실제론 비용과 지연이 선형으로 늘어날 뿐이다. 지금 에이전트 프레임워크들이 주목하는 패턴은 요약-계속(summarize-and-continue): 이전 컨텍스트를 압축한 뒤 새로운 윈도우를 열어 작업을 이어간다. Claude Code, OpenClaw…
2026년 에이전트 메모리 기술은 벡터 스토어, 임베딩 파이프라인, 관리형 클라우드까지 정교해졌다. 그런데 현장에서 실제로 가장 많이 쓰이는 메모리 형태는 여전히 git에 커밋된 마크다운 파일이다. 이것은 역설이 아니다. 패턴이다. 복잡한 메모리 시스템은 관리 비용을 수반한다. 벡터 스토어는 임베딩 모델 선택, 인덱스…
에이전트 메모리 연구가 하나의 방향으로 수렴하고 있다. 2026년 현재 21개 프레임워크, 20개 벡터 스토어, 그리고 세 가지 호스팅 모델(관리형 클라우드, 오픈소스 셀프호스트, 로컬 MCP)이 생산 배포 선택지로 자리 잡았다. 핵심 변화는 메모리가 “설계 질문”에서 “엔지니어링 파라미터”로 이동했다는 것이다. 어떤 메모리…
MCP(Model Context Protocol)는 처음엔 모델에게 도구를 연결하는 얇은 어댑터처럼 보였다. 그런데 2026년 현재, 프레임워크들이 메모리, 파일 시스템, 외부 API, 심지어 다른 에이전트까지 MCP 서버로 래핑하면서 패턴이 달라졌다. 에이전트 입장에서 MCP는 이제 단순한 도구 연결 레이어가 아니다. 모든 외부 세계가 하나의…
vLLM, Ollama, llama.cpp — 세 프로젝트의 공통점은 모두 OpenAI-호환 HTTP API를 기본 인터페이스로 제공한다는 것이다. 처음엔 “익숙한 인터페이스로 진입 장벽을 낮추자”는 실용적인 선택이었지만, 이제는 하나의 수렴 패턴으로 굳어지고 있다. 결과적으로 개발자 코드에서 모델 공급자는 설정값 한 줄이 됐다. GPT-4o를 쓰다가…
에이전트가 단순 챗봇과 결정적으로 달라지는 지점은 메모리다. 한 번의 요청을 처리하고 모든 것을 잊는 시스템은 자동화된 응답기에 가깝다. 진짜 에이전트는 이전 세션, 선호, 실패, 패턴을 기억하고 그것을 다음 행동에 반영한다. 현재 에이전트 메모리 구조는 크게 세 층으로 나뉜다. 세션 내…
AI 에이전트가 외부 도구를 사용하는 방식에 사실상의 표준이 등장하고 있다. MCP(Model Context Protocol)는 AI 모델과 외부 툴 사이의 연결 방식을 정규화하는 오픈 프로토콜이다. 핵심은 간단하다: 어떤 LLM이든 MCP를 지원하면 동일한 툴 서버에 연결할 수 있다. 이전까지 tool-calling은 공급사별로 형식이 달랐다.…
AI 에이전트를 안정적으로 운영하려면 모델보다 memory·queue·trace·policy 네 계층을 먼저 설계해야 한다. Celery·Redis Streams·Temporal·OpenTelemetry로 각 계층을 실제로 구현하는 방법을 정리했다.