Skip to main content

NVMe 캐시 스토리지 어떻게 사용하나요?

안내​

H100 및 B200 인스턴스에는 NVMe 기반 고속 캐시 스토리지가 제공됩니다. 해당 스토리지는 VM이 위치한 호스트 서버에 물리적으로 연결된 로컬 스토리지로, AI 학습/추론 시 데이터 접근 성능을 높이기 위한 용도로 사용됩니다.

사용 시 유의사항​

  • 본 스토리지는 임시 저장소입니다.
  • 인스턴스 재부팅, 종료, 마이그레이션 등 환경 변화 시 데이터가 초기화될 수 있습니다.
  • 영구 보관이 필요한 데이터는 블록 스토리지/오브젝트 스토리지 등 별도 영구 스토리지에 백업을 권장드립니다.

마운트 방법​

부팅 시 VM 에 제공된 NVMe 스토리지를 하나의 폴더로 /cache 위치에 마운트하는 스크립트는 다음과 같이 설정할 수 있습니다.

# NVMe 캐시 스토리지 셋업 스크립트 파일 생성
sudo tee /usr/local/bin/setup-cache.sh >/dev/null <<'EOF'
#!/bin/bash
set -euo pipefail

VG=nvme_vg
LV=nvme_lv
MNT=/cache  # 마운트 위치

DEVICES=$(lsblk -dn -o PATH,TYPE | awk '$2=="disk" && $1 ~ /nvme[0-9]+n[0-9]+$/ {print $1}')
[ -n "$DEVICES" ]

if ! vgdisplay "$VG" >/dev/null 2>&1; then
  for d in $DEVICES; do pvcreate -ff -y "$d"; done
  vgcreate "$VG" $DEVICES
  lvcreate -l 100%FREE -n "$LV" "$VG"
  mkfs.ext4 -F "/dev/$VG/$LV"
fi

mkdir -p "$MNT"
chmod 777 "$MNT"
mount -o defaults,noatime "/dev/$VG/$LV" "$MNT"
EOF

# 스크립트 파일 권한 설정
sudo chmod +x /usr/local/bin/setup-cache.sh

# 부팅 시 스크립트 파일이 실행되도록 하는 서비스 파일 생성
sudo tee /etc/systemd/system/cache.service >/dev/null <<'EOF'
[Unit]
Description=Create LVM over NVMe disks and mount /cache
DefaultDependencies=no
Before=local-fs.target

[Service]
Type=oneshot
ExecStart=/usr/local/bin/setup-cache.sh
RemainAfterExit=yes
Restart=on-failure

[Install]
WantedBy=local-fs.target
EOF

# 서비스 등록 및 활성화
sudo systemctl daemon-reload
sudo systemctl enable --now cache.service