← Side Projects

GPU 실험을
끝까지
추적합니다.

기술 스택
Python · FastAPI · React · TypeScript · PostgreSQL
프로젝트 소개
GPU 실험의 요청 준비·비용 동의·실행·결과 저장·자동 삭제를 연결하고, 응답이 끊겨도 실행과 비용 상태를 추적하는 개인용 실험 서비스입니다.
담당 역할
기획 · 설계 · 풀스택 개발 · 실험 검증
RNGD Workload Studio의 실제 실행 조건 설정 화면
실측 환경
RTX 4090Qwen3 8B FP8
전체 실행 검증
16 / 16요청 성공 · 기능 확인
정책 비교
6세션동일 GPU·모델 서버

개인용 비공개 서비스

조건을 정하고 실행한 뒤,
결과와 비용을 확인합니다.

요청 수·모델·장비를 정하고 비용에 동의하면 GPU 실험을 실행합니다. 끝난 실험의 응답 시간과 처리량을 확인하고, 저장한 결과를 다시 엽니다.

화면을 닫아도 GPU는 남아 있을 수 있습니다. 그래서 입력 조건, 실행 상태, 취소 접수와 삭제 확인을 서버에 저장해 이어서 읽게 했습니다.

실제 GPU 실행에서 결과와 장비 상태를 구분합니다

요청 · 모델 · 장비
입력 조건과 실행 계획을 저장합니다.
비용 동의 · GPU 실행
환경 준비 → 모델 로딩 → 추론 측정
결과 저장
응답 시간과 처리량을 저장하고 다시 엽니다.
GPU 정리 · 삭제 확인
결과 저장과 장비 삭제 완료를 따로 추적합니다.
전체 연결 읽기 · 3개
  • 요청 · 모델 · 장비 → 비용 동의 · GPU 실행
  • 비용 동의 · GPU 실행 → 결과 저장
  • 결과 저장 → GPU 정리 · 삭제 확인

응답이 없다고,
GPU도 없는 것은 아닙니다.

GPU 생성 요청의 결과가 불명확하면 재시도가 중복 대여와 비용으로 이어질 수 있습니다.

미확정 기록을 남깁니다.
현재 Pod가 없어도 생성 요청의 미확정 기록은 보존합니다.
확인과 새 실행을 나눕니다.
운영자 승인 후 별도 감시로 옮기고 신규 실행은 1개로 제한합니다.
늦게 발견한 장비도 정리합니다.
뒤늦게 발견한 Pod도 정리합니다. GPU 삭제를 확인하기 전에는 비용이 발생할 수 있음을 표시합니다.
전체 연결 읽기 · 2개
  • 미확정 기록을 남깁니다. → 확인과 새 실행을 나눕니다.
  • 확인과 새 실행을 나눕니다. → 늦게 발견한 장비도 정리합니다.

재시도 여부는 브라우저에 남은 값만으로 정하지 않습니다. 서버에 저장한 작업과 실행 조건을 복원해, 결과 저장과 장비 삭제를 구분합니다.

취소·평가·실험실 통합의 판단도 읽기 ↓

무엇을 보내고,
어디까지 끝났는지

실제 워크스페이스 캡처의 입력과 실행 영역을 확대했습니다. 화면을 누르면 잘라낸 원본을 크게 볼 수 있습니다.

01 / 실험 조건

같은 조건으로 요청을 준비합니다.

요청 수 32, 동시 실행 4, 입력 토큰 512와 모델 Qwen3 8B FP8, 출력 토큰 상한 128을 설정하는 실제 화면

요청 수와 동시에 보낼 요청 수, 입력 길이를 정하고 모델과 출력 상한을 고릅니다. 출력 토큰은 상한이므로 실제 생성 길이는 달라질 수 있습니다.

요청
32개 · 동시 실행 4개
모델
Qwen3 8B · FP8
길이
입력 512 · 출력 상한 128

이 값들은 캡처 당시의 선택값입니다. 실행 준비 과정에서 검증된 계획을 만들고, 이후 실행과 결과를 같은 조건에 연결합니다.

실험실 열기 · 로그인 필요 ↗
02 / 검증과 실제 측정

무료 검증에서 흐름을 먼저 확인합니다.

로컬 검증 시작 버튼과 실행 대기 상태, 토큰 준비와 가짜 서버 검증 및 결과 저장을 안내하는 실행 영역

실행 시작과 대기 상태 영역을 원본 크기로 발췌했습니다. 캡처의 실행 방식은 GPU를 빌리지 않는 로컬 검증입니다. 토큰 준비 → 가짜 서버 검증 → 결과 저장으로 흐름을 확인하며, 모델 성능을 측정한 결과로 사용하지 않습니다.

실제 GPU 실험은 비용 동의 후 실행합니다. 환경 준비, 모델 로딩, 측정, 저장, GPU 정리를 나누어 추적해 결과 저장과 장비 삭제를 구분합니다.

중단과 복구의 설계 보기 ↓
03 / 저장과 복원

다시 열어도 실행 조건이 이어집니다.

실험이 끝난 뒤 응답 시간과 처리량을 확인하도록 안내하는 결과 대기 패널과 지난 실험 보기 버튼

결과 영역은 아직 실행 전인 대기 상태입니다. 완료한 실험에서는 응답 시간과 처리량을 확인하고 지난 실험을 다시 엽니다.

복원할 때는 작업 API에서 저장된 계획의 식별자를 읽고, 해당 기록을 조회해 입력 조건을 되찾습니다. 브라우저에 남은 값만으로 실행을 자동 재시작하지 않습니다.

실험 학습 노트 · 로그인 필요 ↗
↓

실행이 끊긴 뒤에도
상태는 남아야 합니다.

GPU를 빌린 순간부터 삭제를 확인할 때까지, 앞선 생성 응답 복구에 이어, 평가·취소·사용 화면에서 내린 판단입니다.

02

측정을 줄여도 판단은 맞는가

문제와 관측
에이전트가 고른 조건을 같은 서버의 참조 측정과 대조했습니다. 참조에서 실패한 조건 선택은 두 정책 모두 1/3이었습니다.
해결 방법
규칙 대조군과 고정 조건·순서를 기록하고, 참조 결과와 비교했습니다. 미측정과 예산 소진을 구분해 측정 횟수의 감소가 무엇을 뜻하는지 확인합니다.
03

화면을 닫거나 새로고침했을 때

문제와 관측
브라우저의 일시적 안내만으로는 취소 접수와 GPU 삭제 완료를 구분하기 어려웠습니다.
해결 방법
서버에 저장한 작업 상태와 실행 조건, 취소 접수를 복원합니다. GPU 삭제를 확인하기 전에는 비용이 발생할 수 있음을 표시합니다.
04

설정과 실행을 한 공간에서

문제와 관측
사용자가 실행 버튼과 준비 과정을 이해하지 못해 단계별 화면을 하나의 실험실로 통합했습니다.
해결 방법
요청·모델·장비 설정과 시작·상태 영역을 한 실험실에 모았습니다. 비용 확인 후 실제 측정을 시작하며, 무료 흐름 검증과 구분합니다.

한 모델, 한 GPU에서
시작한 비교

RTX 4090과 Qwen3 8B FP8에서 전체 실행과 제한된 정책 비교를 확인했습니다. RNGD 접근을 확보하지 못해 GPU부터 시작했고, 다음에는 판단 경계와 사용성을 먼저 검증합니다.

  1. 01실제 GPU 검증
    요청 준비 · 측정 · 저장 · GPU 정리

    실행부터 자동 삭제까지

    Qwen3 8B FP8·RTX 4090으로 요청 준비, 비용 동의, 추론 측정, 결과 저장과 GPU 자동 삭제를 연결했습니다. 개인용 비공개 서비스이며 다중 사용자 운영 실적은 아닙니다.

    16/16 성공 · 저장 결과 재열기 · 삭제 확인

  2. 02제한된 반복 평가 완료
    동일 GPU·모델 서버 / 6세션

    에이전트를 정책으로 평가

    규칙과 OpenAI 정책을 각각 3세션 비교했습니다. 두 정책 모두 전수 6회 대신 3회 측정했습니다. 참조 최댓값 선택은 규칙 0/3, OpenAI 2/3이었습니다. 고정 순서·공유 서버·작은 표본 조건의 비교입니다.

    정책 측정 18건 + 참조 측정 36건 · 비용 절감 미입증

  3. 03다음 검증
    모델·장비 확대 전

    판단 경계와 사용성

    세션마다 달라진 성공·실패 경계를 재검증합니다. 통합 실험실의 자동 검증과 별개로 첫 사용자의 이해도, 실제 모바일, 유료 취소 경로를 확인합니다.

    경계 재검증 · 사용자 과제 수행 · 취소 후 삭제 근거

  4. 04후속 로드맵
    조건을 맞춰 하나씩 확장

    다중 모델·GPU, 접근 가능한 NPU

    다른 모델과 GPU를 하나씩 추가하고 입력·출력·정밀도·목표 조건을 맞춥니다. RNGD·Warboy 등 NPU는 접근성과 지원 작업을 확인한 뒤 연결합니다. 현재 NPU 실측 결과는 없습니다.

    모델 추가 → GPU 비교 → 지원 계약 확인 후 NPU

워크스페이스와
학습 노트

저장소와 서비스는 비공개입니다. 학습 노트와 실제 서비스는 접근 토큰이 있는 사용자에게 열립니다.

FuriosaAI와 무관한 개인 실서비스입니다. 다중 사용자 운영은 아직 검증하지 않았습니다.