글

엔지니어링 ·
LLM 호출을 줄이며 고친 캐시와 아침 배치
남은 크레딧이 1.6일치였던 상황에서 재생성·추론 토큰·호출 수를 줄인 과정과, 그 사이 의도와 다르게 동작한 캐시를 고친 기록입니다.
엔지니어링 ·
벡터 검색이 놓친 공시를 단어 검색으로 찾기
문서가 4.5배로 늘자 벡터 검색만으로는 Recall@5가 0.375까지 떨어졌습니다. 한국어 바이그램 단어 검색과 RRF, 제목·출처·최신성 가중치로 고친 과정과 단계별 평가 결과, 비교 범위의 한계를 정리했습니다.
엔지니어링 ·
AI 답변 검사가 멀쩡한 답까지 버리던 문제
핀치는 LLM 설명을 내보내기 전에 자동 검사 10개를 거칩니다. 반려 사유를 세어 보니 상당수가 오탐이었고, 원인은 대부분 모델이 아니라 프롬프트와 검사의 어긋남이었습니다.
엔지니어링 ·
에이전트에게 작업 사본을 주지 않기로 한 이유
야누스는 처음에 Task마다 git worktree를 따로 만들었습니다. 결과를 바로 보고 싶어서 원본 체크아웃에서 작업하기로 바꾸면서, git으로 되돌릴 수 없는 위험을 어떻게 드러내고 막았는지 정리했습니다.
엔지니어링 ·
로컬 모델 동시 생성 수를 5에서 3으로 줄인 근거
48GB 맥에서 27B 모델에 동시에 보내는 생성 요청 수를 5에서 3으로 줄였습니다. KV 캐시, GPU 하나, MTP를 따져 본 근거와, 다시 늘릴 때의 측정 조건을 정리했습니다.
엔지니어링 ·
배포를 위한 실행 계약과 인프라 책임 경계 정리
실행 계약, 인프라의 책임 경계, 그리고 검사 통과와 운영 반영의 차이. 2026년 7월 AI 에이전트 피코에 남긴 기록으로 돌아보는 핀로그의 배포 준비.
엔지니어링 ·
단일 노드 k3s의 PVC 보존 정책과 데이터 복구 한계
단일 노드 k3s의 local-path와 local-path-retain을 살펴보며, Pod 재시작·PVC 삭제·노드 손실에 서로 다른 답이 필요하다는 것을 정리했습니다.
엔지니어링 ·
노드 장애에도 동작하는 외부 모니터링 경로 구성
단일 노드의 내부 알림만으로는 노드 전체 장애를 지켜볼 수 없습니다. 핀로그에서 내부 관측 경로와 외부 HTTPS/TLS 점검 경로를 나눈 이유와 남은 한계를 정리합니다.
엔지니어링 ·
대기 PR·중복 설정·커버리지 게이트를 정리한 CI 리팩토링
채널톡의 CI 개선 글을 출발점으로 자동 병합, 재사용 단계(Composite Action), 커버리지 게이트, 구현 전 사전 검토까지 다섯 스프린트에 걸친 기록. 레퍼런스 글 한 편이 어떻게 실제 파이프라인 개편으로 이어졌는지, 그리고 구현 0줄로 끝난 두 작업이 왜 성과인지를 정리했다.
엔지니어링 ·
JWT·쿠키·프런트엔드 로그인 만료 정책 통합
JWT 수명은 2시간인데 1시간 만에 로그아웃됩니다. 쿠키 수명, 활동 중 토큰 자동 갱신(sliding refresh), 프론트엔드 타이머까지, 4개 레이어가 각자의 시계를 갖고 있었습니다. 서버 환경변수 한 곳으로 통일한 기록입니다.
엔지니어링 ·
AI 코드 검증을 위한 15개 job CI 파이프라인 구축
AI가 빠르게 코드를 만들수록 검증은 더 촘촘해야 했다. 보안 스캔부터 GitOps 락까지, 15개의 CI job을 쌓아올린 실전 기록.
엔지니어링 ·
AI 에이전트 분업을 위한 MSA 서비스 경계 설계
사람이 아키텍처를 결정하고 AI가 실행하는 MSA 설계 실전 기록