운영하면서
얻은 것만
씁니다.

성공담으로 매끈하게 정리하기보다 실패한 가정, 선택하지 않은 대안, 측정 조건과 아직 모르는 것을 함께 남깁니다.

글을 정리하고 있습니다

지금 정리하고 있는 판단들

아래 글은 아직 발행 전입니다. 이력서의 숫자와 프로젝트 설명을 재료로 삼되, 재현 가능한 조건과 한계까지 검증한 뒤 공개합니다.

01
Production AI초안 · 측정 조건 정리 중

여러 서버에서 Vertex AI 429를 제어하는 법

프로세스별 semaphore가 전체 RPM을 제어하지 못했던 이유와 Redis Lua permit, AIMD, Circuit Breaker를 하나의 control plane으로 조합한 과정을 정리합니다.

  • Rate limit
  • Redis Lua
  • BullMQ
  • AIMD
근거LOCAL SEMAPHORE → DISTRIBUTED PERMIT
02
Product Decision초안 · 단일 사례 검증

느려졌지만 더 좋아진 AI 스크립트 생성

병렬 생성의 문맥 단절을 발견한 뒤, 68초 대신 162초를 선택했습니다. latency를 늘리면서 목표 강의시간 정확도를 62%에서 99%로 높인 판단을 기록합니다.

  • Context
  • Evaluation
  • Latency
  • Trade-off
근거ONE 10-PAGE CASE / 68→162S / 62→99%
03
Performance개요 · 측정 기록 확보

6개 탭에서 Long Task를 96.5% 줄인 과정

React 렌더링만 손보지 않고 중복 조회와 순차 네트워크 요청을 API 구조까지 추적했습니다. 동일 조건에서 탭 평균 Long Task를 136개에서 4.7개로, total blocking time을 10.85초에서 0.57초로 줄였습니다.

  • React
  • API design
  • PostgreSQL
  • Profiling
근거136→4.7 LONG TASKS / 10.85→0.57S BLOCKING

발행 전, 네 가지를 확인합니다.

  1. 01
    맥락

    어떤 사용자와 운영 제약에서 시작했는지 먼저 적습니다.

  2. 02
    대안

    채택한 방법뿐 아니라 검토하고 버린 선택지를 남깁니다.

  3. 03
    근거

    숫자에는 측정 환경, 표본과 비교 기준을 함께 붙입니다.

  4. 04
    남은 문제

    해결하지 못한 문제와 다음 검증 계획을 숨기지 않습니다.