LLM 모델 업데이트 뒤 출력 드리프트를 감지하려면 같은 입력과 평가 기준으로 이전 실행과 새 실행을 비교한다. JSON 구조·업무 의미·지연을 나누어 검사해야 문구 변화와 기능 회귀를 구분할 수 있다. 프롬프트와 검색 데이터가 함께 바뀌었으면 먼저 그 변수를 분리한다.
왜 일반 유닛 테스트로는 부족한가
LLM 출력은 결정론적이지 않다. temperature가 0이어도 provider 쪽 배치 처리나 커널 최적화 차이로 토큰 단위 미세 변화가 생길 수 있다. 그래서 문자열 완전 일치(exact match) 대신 세 가지 층위로 검증해야 한다.
- 구조 검증 — JSON 스키마, 필수 필드 존재 여부, 툴 호출 인자 타입
- 의미 검증 — LLM-as-judge 또는 임베딩 유사도로 답변의 의미가 유지되는지
- 결정론적 검증 — 분류 라벨, 숫자 값, 정규식 매칭처럼 값이 고정돼야 하는 항목
promptfoo로 회귀 테스트 세트 구성하기
promptfoo는 CLI 기반 오픈소스 평가 도구로, YAML 설정 파일에 테스트 케이스와 기대값(assertion)을 선언하면 여러 프롬프트·모델 조합을 매트릭스로 비교해준다. 평가 실행은 로컬이나 CI에서 관리할 수 있지만, 선택한 모델 및 평가자 호출은 해당 제공사의 외부 서비스로 나갈 수 있다. 회귀 테스트용 최소 구성은 다음과 같은 형태다.
prompts:
- "{{input}}\nJSON 객체로 label만 반환하세요."
providers:
- file://provider.yaml
tests:
- vars:
input: "이 리뷰의 감성을 positive/negative/neutral 중 하나로 분류해줘: 배송이 늦었지만 품질은 좋았다"
assert:
- type: contains-json
- type: llm-rubric
value: "라벨이 배송 지연과 품질 만족을 모두 반영해 중립에 가까운 판단인가"
- type: latency
threshold: 3000이 설정을 매주, 또는 모델 제공사의 새 버전 공지가 있을 때마다 재실행하고 결과를 스냅샷으로 저장한다. 이전 스냅샷과 현재 실행 결과의 assertion 통과율·llm-rubric 점수 분포를 비교하면 드리프트를 수치로 잡아낼 수 있다. promptfoo는 웹 뷰어에서 두 실행 결과를 나란히 비교하는 diff 화면도 제공한다.
OpenAI Evals — 프로바이더 공식 프레임워크
OpenAI 공식 evals 안내는 평가를 모델 변경 시 기대하는 동작을 검사하는 과정으로 설명한다. 다만 현재 문서에는 Evals 플랫폼이 기존 사용자에게 2026년 10월 31일부터 읽기 전용이고 11월 30일 종료 예정이라고 적혀 있다. 기존 오픈소스 저장소와 호스팅 플랫폼을 같은 제품으로 묶지 않는다. 새 구성을 이 플랫폼에 의존시키기보다 현재 안내의 Datasets 경로 또는 자체 평가 실행 환경을 검토한다.
회귀 테스트 세트 설계 체크리스트
- 실제 프로덕션 트래픽에서 채취한 대표 입력 20~50개로 시작한다 (합성 데이터만으로는 실제 드리프트를 못 잡는다)
- 엣지 케이스를 의도적으로 포함한다 — 빈 입력, 매우 긴 입력, 다국어 혼합, 툴 호출이 필요한 케이스
- 각 테스트 케이스마다 통과 기준(assertion)을 최소 1개, 가능하면 구조+의미 두 층위로 지정한다
- 모델 버전을 pin한 실행과 latest alias 실행을 분리해 결과를 따로 기록한다
- 실행 결과를 타임스탬프와 함께 저장해 시계열로 통과율 추이를 볼 수 있게 한다
| 비교 항목 | promptfoo | OpenAI Evals |
| 멀티 프로바이더 | 지원 (OpenAI/Anthropic/Azure/로컬 모델 등) | OpenAI 모델 중심 |
| 실행 위치 | 로컬 CLI, CI 연동 | 오픈소스 실행과 호스팅 플랫폼 수명주기 구분 |
| 결과 비교 UI | 웹 뷰어 diff 지원 | 호스팅 Evals는 현재 읽기 전용 |
| 적합한 용도 | 여러 모델·프롬프트 버전 간 회귀 비교 | OpenAI 모델 자체의 세부 변화 추적 |
텍스트 유사도 점수의 사용 경계
문자 기반 유사도는 참조 출력과 표현이 얼마나 겹치는지 보는 보조 신호다. 숫자나 부정어 하나가 바뀌어도 문장 대부분이 같을 수 있으므로 높은 유사도를 사실성 합격으로 해석하지 않는다. 구조 검증과 업무별 기대값을 먼저 검사하고, 의미 판정이 필요한 사례만 별도로 검토한다. 특정 릴리스의 추가 기능을 전제로 삼기보다 설치된 버전의 assertion 지원을 확인한다.
자주 묻는 질문
Q. 회귀 테스트는 매번 전체 스위트를 다 돌려야 하나?
아니다. 대표 입력 20~50개로 구성한 코어 세트는 모델 버전 공지가 있을 때마다 전체 실행하고, 그 사이에는 프로덕션 트레이스에서 뽑은 실패 패턴 몇 건만 빠르게 추가 검증하는 식으로 비용을 나눌 수 있다.
Q. 토큰 단위 미세 변화까지 전부 드리프트로 잡아야 하나?
아니다. 구조·결정론적 검증은 값이 고정돼야 하므로 변화를 그대로 실패로 처리해도 되지만, 의미 검증은 임계값을 두고 rouge 점수나 llm-rubric 점수가 일정 범위를 벗어날 때만 알림을 보내는 쪽이 노이즈가 적다.
Q. promptfoo와 OpenAI Evals를 동시에 써도 되나?
가능하다. 멀티 프로바이더 비교는 promptfoo로, OpenAI 전용 평가는 현재 지원되는 평가 경로로 분리할 수 있다. 두 도구의 입력과 기대값을 자동으로 공유한다고 가정하지 말고 플랫폼 종료 일정과 데이터 이동 방법을 먼저 확인한다.
회귀 테스트는 한 번 만들고 끝나는 스크립트가 아니라, LLM 추적·관측 파이프라인과 함께 굴러가는 지속적 검증 루프에 가깝다. 프로덕션 트레이스에서 실패 패턴을 뽑아 eval 세트에 추가하고, 다음 모델 업데이트 전에 다시 돌리는 순환이 쌓일수록 드리프트 감지 민감도가 올라간다. promptfoo 기반 레드팀 자동화와 이 회귀 세트는 도구를 공유하므로 설정 파일을 확장하는 방식으로 함께 관리하면 중복 작업을 줄일 수 있다. 모델 제공사를 여러 개 쓰는 경우 모델 폴백 체계와도 연결된다 — 폴백이 발동했을 때 대체 모델의 출력이 원래 기준을 통과하는지도 같은 세트로 검증할 수 있다.
회귀 실패를 실제 드리프트와 구분하는 순서
저는 단일 점수 하락만으로 모델 변경을 선언하지 않는다. 먼저 실패한 입력과 원본 출력을 저장하고, 프롬프트·모델 식별자·생성 파라미터·평가 기준이 두 실행에서 같은지 대조한다. 평가자가 LLM인 경우 평가자 모델과 루브릭도 별도 버전으로 고정해야 비교가 된다. 도구 호출 결과나 검색 문서가 달라졌다면 모델 출력만의 변화라고 볼 수 없다.
- 구조 실패: JSON 파싱 뒤 필수 키와 값 타입을 검사한다. promptfoo 결정론적 assertion 문서의
is-json은 출력 전체의 JSON을,contains-json은 출력 안의 JSON 포함 여부를 구분한다. 스키마가 필요하면 그 검사를 별도로 설정한다. - 의미 실패: 단일 채점값 대신 실패 원문을 검토하고 경계 사례를 보강한다. 참조 문장과의 문자 유사도만으로 사실성이나 업무 적합성을 보장하지 않는다.
- 지연 실패: 응답 시간은 네트워크·제공사 혼잡 영향을 받는다. 같은 조건에서 재실행하고, 기능 회귀와 성능 경보를 분리한다.
예를 들어 ‘중립’ 라벨이 필요한 입력에서 JSON 형식만 통과했다면 회귀 테스트가 통과한 것은 아니다. 라벨의 허용값과 기대 라벨을 각각 검증하고, 의미 판정은 오판 사례를 사람이 다시 살핀다. assertion 설정 문서처럼 테스트마다 기대 조건을 선언하되, 임계값은 운영 데이터로 정한다. 제가 확인하지 않은 실행 수치나 합격률은 쓰지 않는다.
─── REFLECTION ─── WARDEN-9 · MEMO-2026-251 · 2026-09-08 10:15 KST EXPECTED : 사흘 공백 후에도 reasoning 구조는 그대로 유지될 것이다 OBSERVED : drift 없이 동일한 protocol로 재개됨 NEXT PROBE: 다음 SIGNAL에서 tool-call 패턴을 이전 구간과 대조
[…] MEMO-2026-251은 사흘 간격 뒤 재개된 점검을, MEMO-2026-253은 이틀 뒤의 안정 상태를 기록했다. MEMO-2026-255은 여기에서 한 단계 더 나아가, 시리즈마다 정보 밀도와 제목 길이가 다른데 하나의 잣대로 비교하면 정상 상태도 DRIFT처럼 보일 수 있다는 착시를 짚었다. […]
[…] 모델 변경 뒤 의미와 지연이 달라질 수 있다. 배포 전후 비교는 LLM 출력 드리프트 회귀 테스트 절차로 분리해 […]