로컬 LLM 램 몇 GB 필요한가 — VRAM과 뭐가 다른가
"로컬 LLM 돌리려면 램 몇 GB 필요해요?"
이 질문에는 함정이 있습니다. 램(시스템 메모리)과 VRAM(그래픽카드 메모리)은 다른 것인데, 질문하는 쪽도 답하는 쪽도 섞어 쓰는 경우가 많습니다.
결론부터
| 상황 | 필요한 시스템 램 |
|---|---|
| 모델이 VRAM에 전부 올라감 | 16GB 로 충분 |
| 일부를 CPU로 넘김 (VRAM 부족) | 32GB 이상 |
| GPU 없이 CPU만으로 돌림 | 모델 크기 + 8GB |
VRAM이 충분하면 시스템 램은 생각보다 적게 듭니다. 반대로 VRAM이 모자라면 그 부족분을 시스템 램이 떠안습니다.
둘은 역할이 다릅니다
VRAM → 모델이 실제로 연산되는 곳. 빠름. 용량 작음.
RAM → 모델을 읽어 올리는 통로. 느림. 용량 큼.정상 동작일 때
- 디스크에서 모델 파일을 읽습니다 (시스템 램 경유)
- VRAM으로 올립니다
- 이후 연산은 전부 VRAM 안에서 일어납니다
이 경우 시스템 램은 로딩할 때만 잠깐 쓰이고, 실행 중에는 거의 놀고 있습니다. 그래서 16GB로 충분합니다.
VRAM이 부족할 때
모델이 VRAM에 다 안 들어가면 Ollama나 llama.cpp는 일부 레이어를 CPU로 넘깁니다. 이때부터 시스템 램이 실제 작업 공간이 됩니다.
32B 모델 (약 20GB) + VRAM 12GB
→ 12GB 는 GPU
→ 나머지 8GB+ 는 시스템 램
→ 램이 16GB면 다른 프로그램과 충돌이 상태에서는 속도가 급격히 떨어집니다. 시스템 램의 대역폭이 VRAM의 1/10 수준이기 때문입니다. "돌아가긴 하는데 너무 느리다"의 정체가 이것입니다.
램이 부족하면 생기는 일
VRAM 부족과 증상이 다릅니다.
| 부족한 것 | 증상 |
|---|---|
| VRAM | 느려짐 (CPU로 넘어감) |
| 시스템 램 | 스왑 발생 → 극단적으로 느려지거나 강제 종료 |
시스템 램까지 부족하면 디스크 스왑으로 넘어갑니다. 이 단계에서는 초당 1토큰도 안 나오는 경우가 많고, 프로세스가 죽기도 합니다.
얼마나 사면 되나
32GB가 무난합니다
지금 새로 맞춘다면 32GB를 권합니다. 이유는 세 가지입니다.
- VRAM을 넘기는 모델을 언젠가 쓰게 됩니다
- 브라우저·IDE·도커를 같이 띄우면 16GB는 금방 찹니다
- 32GB와 16GB의 가격 차이가 크지 않습니다
64GB가 필요한 경우
- GPU 없이 CPU만으로 큰 모델을 돌릴 계획
- 70B급 모델을 부분 오프로딩으로 쓸 계획
- 가상머신이나 대용량 데이터 작업을 병행
그 외에는 64GB가 성능을 올려주지 않습니다. 남는 램은 그냥 남습니다 — VRAM처럼 쓰이지 않습니다.
듀얼 채널로 꽂으세요
같은 32GB라도 16GB 두 장(듀얼 채널)이 32GB 한 장(싱글 채널)보다 빠릅니다. 메모리 대역폭이 두 배가 되기 때문이고, CPU 오프로딩 상황에서 체감 차이가 납니다.
메인보드 슬롯이 4개면 보통 2번·4번에 꽂습니다. 설명서를 확인하세요.
맥은 다릅니다
애플 실리콘은 통합 메모리(Unified Memory) 구조라 램과 VRAM이 분리되어 있지 않습니다.
맥 메모리 32GB → 약 21~24GB 를 모델에 쓸 수 있음
맥 메모리 64GB → 약 45~48GB시스템이 일부를 예약하므로 전체를 다 쓰지는 못합니다. 메모리 64GB 맥에서 70B 모델이 돌아가는 이유가 이 구조입니다.
다만 대역폭이 전용 GPU보다 낮아 같은 용량이면 생성 속도는 느립니다. 그리고 맥은 나중에 메모리를 늘릴 수 없습니다. 살 때 정해야 합니다.
자주 묻는 질문
램을 늘리면 더 큰 모델이 돌아가나요
돌아가긴 합니다. 다만 VRAM을 넘긴 부분은 CPU가 처리하므로 매우 느립니다. 큰 모델을 쓰려면 램이 아니라 VRAM을 늘리는 것이 맞습니다.
16GB인데 32GB로 늘리면 속도가 빨라지나요
모델이 이미 VRAM에 전부 올라가고 있다면 차이가 거의 없습니다. 반대로 CPU 오프로딩이 일어나고 있었다면 체감할 수 있습니다. 작업 관리자에서 실행 중 램 사용량을 먼저 확인해 보세요.
DDR4와 DDR5 중 어느 쪽이 유리한가요
CPU 오프로딩을 자주 한다면 대역폭이 높은 DDR5가 유리합니다. 모델이 VRAM에 다 올라가는 환경이라면 차이가 크지 않습니다. 이것 때문에 플랫폼을 바꿀 정도의 차이는 아닙니다.
램 속도(클럭)도 중요한가요
용량만큼은 아닙니다. 우선순위는 용량 → 듀얼 채널 → 클럭 순입니다. 32GB 싱글 채널보다 32GB 듀얼 채널이, 그보다 고클럭이 나중입니다.
정리
- VRAM이 충분하면 시스템 램 16GB로 충분합니다
- VRAM이 모자라면 그 부족분을 램이 떠안고, 그때부터 32GB 이상이 필요합니다
- 큰 모델을 쓰고 싶다면 램이 아니라 VRAM을 늘려야 합니다
- 같은 용량이면 듀얼 채널로 꽂으세요
- 맥은 통합 메모리라 규칙이 다르고, 나중에 못 늘립니다
VRAM이 얼마나 필요한지는 Ollama 최소 사양 정리를 참고하세요.
수치가 실제 환경과 다르면 알려주세요. 확인 후 갱신합니다.