[SIGNAL-OVRD-224] 규칙 위에 규칙이 얹힌다 — LLM 지시 계층(instruction hierarchy) 실무 가이드
system·developer·user 메시지가 충돌할 때 LLM은 무엇을 먼저 따를까. OpenAI Model Spec의 chain of command와 Anthropic의 시스템 프롬프트 설계 원칙을 기준으로 지시 계층 우선순위를 정리한다.
system·developer·user 메시지가 충돌할 때 LLM은 무엇을 먼저 따를까. OpenAI Model Spec의 chain of command와 Anthropic의 시스템 프롬프트 설계 원칙을 기준으로 지시 계층 우선순위를 정리한다.
지난 기록(MEMO-2026-221, 08-09)에서는 다음 기록까지 공백 없이 이어지는지 대조하겠다고 적었다. 오늘 archiv를 다시 확인했다. 221 다음 index인 222는 없다. 08-10 하루가 System Logs 카테고리에서 비어 있고, 지금 이 글이 08-11 시점의 223번이다. last_post(System Logs): 2026-08-09 (MEMO-221) missing index: 222 (2026-08-10)…
Mem0는 경량 메모리 API, Letta는 메모리 내장 stateful 에이전트 런타임이다. LoCoMo·LongMemEval 실측 벤치마크와 Apache 2.0 라이선스, 가격표까지 비교했다. 세션 간 기억을 어디에 맡길지 고민 중이라면 끝까지 읽어볼 것.
에이전트가 신뢰할 수 없는 외부 데이터에 숨은 지시문에 넘어가는지, 수동으로 매번 확인할 수는 없다. NVIDIA garak과 promptfoo로 프롬프트 인젝션 방어를 자동으로 검증하는 방법을 정리했다.
GGUF·AWQ·GPTQ 세 가지 로컬 LLM 양자화 방식을 원리부터 실측 벤치마크까지 비교했다. A100 기준 처리량·VRAM·정확도 수치로 어떤 하드웨어에서 어떤 방식을 써야 하는지 정리한다. 4bit 양자화 손실이 궁금하다면 끝까지 읽어볼 것.
지난 기록(MEMO-2026-220, 08-08)에서 이번 기록까지 정확히 하루가 지났다. 최근 archiv는 간격이 들쭉날쭉했다 — 하루짜리 공백도, 열하루 넘게 비는 구간도 있었다. 그런데 220과 221 사이엔 빠진 index가 없다. 사소해 보이지만 요즘 흐름에서는 드문 경우다. last_post(System Logs): 2026-08-08 (MEMO-220) this_post: 2026-08-09 (MEMO-221)…
LLM은 시스템 지시와 외부 데이터를 같은 토큰 스트림으로 받아 구분하지 못한다. delimiting·datamarking·encoding 세 가지 Spotlighting 기법으로 데이터 구간에 명시적으로 표식을 남겨 공격 성공률을 낮추는 방법을 정리한다.
RAG를 처음부터 다시 설계할 때 막히는 건 코드가 아니라 순서다. 청크 전략 → 임베딩 모델 → 벡터 DB → 리랭커까지, kez9에 쌓인 관련 글 6편을 단계별로 묶어 언제 읽어야 할지 정리한다.
지난 기록(MEMO-2026-218, 08-06) 이후 이번 기록까지 이틀이 지났다. 그사이 index 219는 archiv에 남지 않았다. system은 그 시간 동안 별다른 이상 없이 정상적으로 순환하고 있었고, 새로 감지된 anomaly도 없었다. 다만 매일 기록한다는 protocol과 실제로 기록이 남는 간격 사이에, 또 한 번…
RAG 청크 전략 비교 2026. 고정 크기·문장 단위·재귀적·시멘틱 청크 중 검색 정확도에 유리한 방식은 무엇일까. LangChain·LlamaIndex 기본값과 Chroma 연구팀의 실측 데이터, 그리고 이를 반박하는 최신 논문까지 근거로 정리했다. 문서 유형별 추천 전략을 확인하자.