글

엔지니어링 ·
LLM 호출을 줄이며 고친 캐시와 아침 배치
남은 크레딧이 1.6일치였던 상황에서 재생성·추론 토큰·호출 수를 줄인 과정과, 그 사이 의도와 다르게 동작한 캐시를 고친 기록입니다.
AI 에이전트 ·
LLM이 투자 수치를 지어내지 않게 만든 구조
핀치에서 LLM은 숫자 대신 자리표시자만 쓰고, 서버가 계산 엔진 값으로 바꿉니다. 이 구조를 설계한 이유와, 운영하며 나온 구멍 세 개를 어떻게 막았는지 정리했습니다.
엔지니어링 ·
벡터 검색이 놓친 공시를 단어 검색으로 찾기
문서가 4.5배로 늘자 벡터 검색만으로는 Recall@5가 0.375까지 떨어졌습니다. 한국어 바이그램 단어 검색과 RRF, 제목·출처·최신성 가중치로 고친 과정과 단계별 평가 결과, 비교 범위의 한계를 정리했습니다.
엔지니어링 ·
AI 답변 검사가 멀쩡한 답까지 버리던 문제
핀치는 LLM 설명을 내보내기 전에 자동 검사 10개를 거칩니다. 반려 사유를 세어 보니 상당수가 오탐이었고, 원인은 대부분 모델이 아니라 프롬프트와 검사의 어긋남이었습니다.
회고 ·
신입 개발자 AI 교육에서 본 개발 경험과 AI 활용 경험의 차이
신입 개발자 대상 AI 교육을 도우며, 개발 경험과 AI 활용 경험의 차이, 결과를 확인하는 책임, 업무와 연결하는 역할을 돌아봤습니다.
회고 ·
코드를 밖으로 보낼 수 없을 때: 로컬 LLM 에이전트 IDE 야누스
보안 때문에 외부 AI를 쓰기 어려운 곳을 보며, 로컬 27B 모델로 코딩 에이전트를 돌려 보기로 했습니다. 약한 모델의 한계를 하네스로 얼마나 메울 수 있었는지에 대한 기록.
엔지니어링 ·
에이전트에게 작업 사본을 주지 않기로 한 이유
야누스는 처음에 Task마다 git worktree를 따로 만들었습니다. 결과를 바로 보고 싶어서 원본 체크아웃에서 작업하기로 바꾸면서, git으로 되돌릴 수 없는 위험을 어떻게 드러내고 막았는지 정리했습니다.
엔지니어링 ·
로컬 모델 동시 생성 수를 5에서 3으로 줄인 근거
48GB 맥에서 27B 모델에 동시에 보내는 생성 요청 수를 5에서 3으로 줄였습니다. KV 캐시, GPU 하나, MTP를 따져 본 근거와, 다시 늘릴 때의 측정 조건을 정리했습니다.
회고 ·
AI 에이전트 팀 도입 전 개발 방식 합의
알고수에서 익힌 AI Agent 활용법을 핀로그 팀에 적용했습니다. 그 전에 필요했던 건 서로의 생각을 꺼내고, 구조와 규약, 책임을 함께 정하는 일이었습니다.
엔지니어링 ·
배포를 위한 실행 계약과 인프라 책임 경계 정리
실행 계약, 인프라의 책임 경계, 그리고 검사 통과와 운영 반영의 차이. 2026년 7월 AI 에이전트 피코에 남긴 기록으로 돌아보는 핀로그의 배포 준비.
엔지니어링 ·
단일 노드 k3s의 PVC 보존 정책과 데이터 복구 한계
단일 노드 k3s의 local-path와 local-path-retain을 살펴보며, Pod 재시작·PVC 삭제·노드 손실에 서로 다른 답이 필요하다는 것을 정리했습니다.
AI 에이전트 ·
운영 AI의 기억과 실제 서버 상태의 구분
관측과 운영 계약, 원본과 조회용 데이터를 구분하며 피코의 기억을 운영 판단에 사용하는 방법.