2025-03-14 05:12
Gemma3 돌리기 딱 좋은 컴퓨터 Mac Studio!
AI할 떄 GPU(그래픽카드)가 CPU 보다 더 좋은거 알지?
그래픽 카드로 AI 모델을 돌리려면 그래픽카드의 메모리(VRAM)이 중요해
(CPU로 돌린다면 RAM만 높으면 돼, 가격은 싼데 성능은 매우 별로 😩)
Gemma3 12B 모델을 돌리려고 하면 최소 48GB 의 메모리가 필요해
VRAM이 80GB인 H100가격을 볼까?
35,490,000 (3500백만) ... 답이 없어
Mac의 Apple실리콘은 CPU&GPU 통합메모리라서 RAM이 곧 VRAM이 될 수 있어
M3 울트라로 메모리 512GB 넣으면 얼마일까?
14,840,000 (1400백만) 밖에 안해.
27B모델도 가볍게 돌릴 수 있어. (H100은 못돌림)
맥의 통합메모리가 소규모 AI 모델에 경쟁력 있게 될줄 몰랐어
맥 스튜디오가 개인연구용 & 중소기업용으로 완전 가성비 아닌가? 🤔 (본인 둘다 못삼🤣)
스하리1000명프로젝트