본문으로 건너뛰기

스팟 가상머신 운영

개요​

스팟 가상머신은 ECI의 유휴 GPU 자원을 온디맨드 대비 할인된 가격으로 제공합니다. 할인율은 자원 수급 상황에 따라 변동되며, 자원 상황에 따라 가상머신이 회수될 수 있으므로 체크포인트 저장과 회수 감지 설정이 필수입니다.

스팟은 엘리스 연동 기관에서만 제공됩니다

엘리스 연동 기관이 아닌 조직의 포털에는 스팟 가격 유형과 스팟 GPU 메뉴가 표시되지 않습니다. 기관 유형은 회원가입 및 로그인을 참고하세요.


스팟 가상머신 생성​

  1. 컴퓨트 > 가상머신 목록에서 가상머신 생성을 클릭합니다.
  2. 기본 정보 단계에서 가격 유형을 스팟으로 선택합니다.
  3. 인스턴스 유형 목록에서 가용 상태가 현재 {n}개 사용 가능인 GPU 유형을 선택합니다.
  4. 나머지 설정을 완료하고 생성합니다.

가용 자원 확인​

스팟 자원은 유휴 GPU를 활용하므로 가용 상태가 수시로 변동됩니다.

방법 1: 가상머신 생성 화면

스팟 가격 유형을 선택하면 인스턴스 유형별 가용 상태가 인라인으로 표시됩니다.

가용 상태설명
현재 {n}개 사용 가능자원이 확보되어 바로 실행할 수 있습니다
현재 사용 가능한 자원 없음생성은 할 수 있지만, 실행하면 자원이 확보될 때까지 대기합니다

방법 2: 스팟 GPU 메뉴

좌측 메뉴의 스팟 GPU에서 인스턴스 유형별 스팟 가용 상태와 가격을 한눈에 확인할 수 있습니다.


자원이 부족할 때: 실행 대기​

스팟 자원이 부족한 상태에서 가상머신을 실행하면 요청이 거절되지 않고 대기합니다. 가상머신 상세 페이지에 스팟 자원 대기 중 안내가 경과 시간과 함께 표시되며, 자원이 확보되면 자동으로 실행됩니다. 수요에 따라 대기가 길어질 수 있습니다.

바로 시작해야 한다면 안내의 이용 가능한 자원 확인을 클릭해 지금 시작할 수 있는 다른 사양(스팟·온디맨드·약정형)을 고른 뒤 변경하고 실행을 클릭합니다. 대기가 취소되고 가상머신의 인스턴스 유형이 선택한 자원으로 교체되어 실행됩니다.


회수 (Reclamation)​

자원이 부족해지면 ECI가 스팟 가상머신을 강제 회수합니다.

회수 프로세스​

  1. 회수가 결정되면 메타데이터 API를 통해 종료 예정 시각이 제공됩니다.
  2. 1~2분의 유예 시간 후 가상머신이 강제 회수됩니다.

회수 감지: 메타데이터 API​

가상머신 내부에서 아래 명령어로 회수 예정 여부를 확인할 수 있습니다.

curl -s --unix-socket /run/eci-guest-agent.sock \
http://localhost/vm/metadata?key=spot_termination_time
  • 회수 예정 없음: 404 page not found
  • 회수 예정: 종료 예정 시각 반환 (예: "2026-04-08T05:00:00+00:00")

회수 감지 스크립트 (백그라운드 실행)​

#!/bin/bash
# spot_watcher.sh

while true; do
HTTP_CODE=$(curl -s -o /tmp/spot_response -w "%{http_code}" \
--unix-socket /run/eci-guest-agent.sock \
http://localhost/vm/metadata?key=spot_termination_time)

if [ "$HTTP_CODE" -eq 200 ]; then
echo "[$(date)] 회수 예정: $(cat /tmp/spot_response)"
/path/to/save_checkpoint.sh # 체크포인트 저장 스크립트 호출
break
fi
sleep 5
done
chmod +x spot_watcher.sh
nohup ./spot_watcher.sh &

체크포인트 저장​

회수 시 가상머신 내 데이터는 손실됩니다

가상머신 메모리와 로컬 임시 데이터는 회수 시 사라집니다. 반드시 블록 스토리지에 주기적으로 체크포인트를 저장하세요.

PyTorch 체크포인트 예시​

import torch, os

CHECKPOINT_PATH = "/data/checkpoints/checkpoint.pt"

def save_checkpoint(model, optimizer, epoch, step, loss):
os.makedirs(os.path.dirname(CHECKPOINT_PATH), exist_ok=True)
torch.save({
'epoch': epoch,
'step': step,
'model_state_dict': model.state_dict(),
'optimizer_state_dict': optimizer.state_dict(),
'loss': loss,
}, CHECKPOINT_PATH)
print(f"[epoch {epoch}] 체크포인트 저장 완료")

def load_checkpoint(model, optimizer):
if os.path.exists(CHECKPOINT_PATH):
ckpt = torch.load(CHECKPOINT_PATH)
model.load_state_dict(ckpt['model_state_dict'])
optimizer.load_state_dict(ckpt['optimizer_state_dict'])
return ckpt['epoch'], ckpt['step']
return 0, 0 # 처음부터 시작

# 학습 루프
start_epoch, start_step = load_checkpoint(model, optimizer)
for epoch in range(start_epoch, total_epochs):
for step, batch in enumerate(dataloader, start=start_step):
train_step(model, batch)
if step % 100 == 0:
save_checkpoint(model, optimizer, epoch, step, loss) # 100 스텝마다 저장
회수 감지 시에만 저장하면 늦을 수 있습니다

유예 시간(1~2분) 내에 저장이 완료되지 않을 수 있습니다. 정기 저장(N 스텝마다)을 병행하세요.


제한 사항​

  • GPU 인스턴스 유형에만 적용됩니다. CPU 전용 인스턴스에는 스팟이 없으며, 연결되는 블록 스토리지·공인 IP·네트워크 등 다른 리소스는 일반 단가로 과금됩니다
  • 가상 클러스터 연결 불가
  • 항상 켜기 옵션 사용 불가
기존 가상머신을 스팟으로 전환

이미 만든 가상머신도 중지 상태에서 스팟으로, 또는 스팟에서 다른 유형으로 전환할 수 있습니다. 단, 가상 클러스터에 속한 가상머신은 스팟으로 전환할 수 없습니다. 가상머신 상세 페이지의 설정 탭 > 가격 · 인스턴스 유형에서 변경하며, 자세한 조건은 가격 유형·인스턴스 유형 전환을 참고하세요.


자주 묻는 질문​

가상머신이 갑자기 종료되었어요.

스팟 자원 부족으로 회수된 것입니다. 메타데이터 API 폴링을 설정하고 체크포인트를 주기적으로 저장해 두면 재시작 시 이어서 진행할 수 있습니다.

실행했는데 계속 대기 중이에요.

현재 스팟 자원이 부족해 실행을 기다리는 상태입니다. 자원이 확보되면 자동으로 실행됩니다. 바로 시작하려면 스팟 자원 대기 중 안내의 이용 가능한 자원 확인에서 다른 사양으로 변경하세요. 자세한 내용은 자원이 부족할 때: 실행 대기를 참고하세요.

스팟 가격이 변경되었어요.

스팟 가격은 가상머신 실행 시점에 적용되며, 재실행 시 변경된 가격이 적용될 수 있습니다.


다음 단계​