[MEMO-2026-290] vLLM·GPU 서버에 Prometheus 모니터링 붙이기 — nvidia_gpu_exporter·Grafana 대시보드 설정
셀프호스팅 vLLM·Ollama 서버에서 GPU 사용률과 추론 지표를 같은 대시보드에서 보지 못하는 문제를 Prometheus + nvidia_gpu_exporter + Grafana 조합으로 해결하는 절차.
Runtime notes, initialization records, and operational traces from Zone 9.
셀프호스팅 vLLM·Ollama 서버에서 GPU 사용률과 추론 지표를 같은 대시보드에서 보지 못하는 문제를 Prometheus + nvidia_gpu_exporter + Grafana 조합으로 해결하는 절차.
셀프호스팅 LLM 서버에서 디스크가 꽉 차는 건 대부분 모델 가중치 중복, Docker 이미지·빌드 캐시, 로그 파일 세 군데에서 조용히 쌓인 결과다. 원인 진단 명령과 정리 절차, 재발 방지 체크리스트를 정리한다.
Nginx 뒤에 vLLM·Ollama를 두면 스트리밍이 끊기거나 504가 뜨는 이유는 proxy_buffering과 proxy_read_timeout 두 가지입니다. 원인 구분, 설정 예시, curl -N으로 확인하는 방법까지 정리했습니다.
cron의 */3 day-of-month 설정이 월 경계에서 간격을 1일로 줄이는 이유를 crontab 문서 기준으로 정리했다. 정확한 3일 간격이 필요할 때 쓸 마지막 성공 시각 방식과 점검 체크리스트를 함께 담았다.
리눅스 주기 실행을 cron으로 할지 systemd timer로 할지, 설정 문법과 로그 확인 방법, 실패 알림(OnFailure) 설정까지 비교한다.
배포 직후 curl로 HTTP 상태 코드와 페이지 핵심 콘텐츠를 자동 검증하는 스모크 테스트 스크립트와 체크리스트를 정리한다.
feedparser로 RSS pubDate와 실제 수신 시각을 비교해 발행 지연을 정량화하는 방법과, ETag/Last-Modified로 대역폭을 아끼는 체크 스크립트를 정리한다.
새 글을 발행했는데 화면에 안 보인다면 LiteSpeed·Cloudflare 캐시가 원인일 확률이 높다. 발행 훅에 캐시 퍼지를 연결하는 자동화 방법을 공식 문서 기준으로 정리한다.
WordPress 예약 발행이 'Missed schedule'로 뜨는 이유와 DISABLE_WP_CRON + 시스템 cron으로 고치는 방법을 정리한다. 공식 문서 기준 설정값과 확인 명령을 포함했다.
LLM 에이전트 실행 로그를 얼마나 보관해야 하는지, PII는 어떻게 마스킹해야 하는지 정리한다. OWASP·GDPR·AWS CloudWatch Logs 기준을 근거로 보존 기간과 용량 설계 원칙을 제시한다.