본문으로 건너뛰기
RAISE LAB

VIDEO NOTE

NVIDIA DGX Spark 6개월 사용기: 128GB 통합 메모리 AI 컴퓨터의 실효성과 한계

혼자 굴리는 AI · 8분 58초 · 중급 · 26. 10. 06. · 분야별 AX 사례 › 에이전트·하네스

YouTube 에서 보기 · 혼자 굴리는 AI (새 탭에서 열림)

NVIDIA GB10 칩과 128GB 통합 메모리를 탑재한 소형 AI 컴퓨터를 6개월간 직접 운영해 본 후기다. 일반 그래픽카드 대비 속도는 느리지만 대형 영상·이미지·언어 모델을 메모리 부족 없이 구동할 수 있다. 다양한 유료 생성 AI 구독을 대체하면 약 15개월 만에 기기값을 회수할 수 있으나, 최근 메모리 품귀로 가격이 크게 상승했다.

핵심

  • MSI EdgeXpert는 15×15cm 크기에 GB10 칩과 128GB 통합 메모리를 탑재해 VRAM 제약 없이 대형 AI 모델을 구동한다.
  • 메모리 대역폭은 273GB/s로 게임용 최고급 그래픽카드보다 좁아 처리 속도는 느리지만 작업 중단 오류가 거의 없다.
  • 글·그림·영상·음악 유료 구독료(월 260달러, 약 36만 원)를 대체할 경우 약 15개월이면 기기 구매 비용을 회수한다.
  • 데이터센터 수요 집중으로 128GB 모델 가격은 출시 초기 대비 2배 가까이 폭등했다.
  • 리눅스 기반 CLI 환경이고 그래픽카드 대비 소형 모델 처리 속도가 느려 단순 챗봇용이나 게임 겸용 목적에는 맞지 않는다.

RAISE LAB 에서 배우는 사람에게

API 호출 비용과 데이터 유출 걱정 없이 고부하 모델과 멀티모달 파이프라인을 상시 돌리려는 빌더에게 로컬 하드웨어 구축의 경제적 손익을 가늠하게 돕는다.

챕터

  1. 0:00개인용 AI 컴퓨터 DGX Spark 개요 (새 탭에서 열림)
  2. 0:49기기 사양과 128GB 통합 메모리 (새 탭에서 열림)
  3. 1:22구매 목적과 급격한 가격 상승 (새 탭에서 열림)
  4. 1:58Ollama 기반 로컬 AI 세팅 (새 탭에서 열림)
  5. 2:23글·그림·영상·음성 작업 실측 성능 (새 탭에서 열림)
  6. 3:00작업별 메모리 소모와 대역폭 한계 (새 탭에서 열림)
  7. 3:3224시간 켜 두고 원격으로 쓰는 법 (새 탭에서 열림)
  8. 3:59써 보며 느낀 아쉬운 점 3가지 (새 탭에서 열림)
  9. 4:35가격 폭등 원인과 64GB 모델 출시 (새 탭에서 열림)
  10. 5:38유료 AI 구독 대체 시 손익분기 계산 (새 탭에서 열림)
  11. 6:55추천 대상과 구매 비추천 기준 (새 탭에서 열림)
  12. 8:09총평 및 Mac Studio 비교 예고 (새 탭에서 열림)

이 노트는 RAISE LAB 운영팀이 고른 영상을 AI(Gemini)가 보고 한국어로 정리한 것입니다. 영상의 저작권은 원작자에게 있고, 자막·대본은 싣지 않습니다. 혼자 굴리는 AI 원작자 채널 (새 탭에서 열림)

에이전트·하네스