로컬 LLM 되는 노트북 고르기 — 이름이 같아도 VRAM이 다릅니다
노트북으로 로컬 LLM을 하려는 분들이 가장 많이 하는 실수가 있습니다.
"RTX 5070 달린 노트북이면 데스크톱 5070이랑 비슷하겠지"
아닙니다. VRAM부터 다릅니다.
결론부터 — 같은 이름, 다른 용량
| 이름 | 노트북 | 데스크톱 | |
|---|---|---|---|
| RTX 5090 | 24GB | 32GB | ⚠️ 다름 |
| RTX 5080 | 16GB | 16GB | 같음 |
| RTX 5070 Ti | 12GB | 16GB | ⚠️ 다름 |
| RTX 5070 | 8GB | 12GB | ⚠️ 다름 |
| RTX 5060 | 8GB | 8GB | 같음 |
| RTX 5050 | 8GB | 8GB | 같음 |
여섯 종류 중 세 종류가 다릅니다.
로컬 LLM에서는 VRAM이 돌아가는 모델을 정하므로, 이 차이가 그대로 결과 차이가 됩니다.
RTX 5070 노트북은 출처에 따라 12GB 구성도 있다고 표기됩니다. 그래서 더더욱 제품 사양에서 직접 확인하셔야 합니다. 이름만으로는 알 수 없습니다.
노트북 VRAM별로 뭐가 되나
Q4 양자화, A4 두세 장 분량 기준입니다.
| 노트북 GPU | VRAM | 돌아가는 모델 |
|---|---|---|
| RTX 5050 / 5060 / 5070 | 8GB | 7~8B — 번역, 간단한 질문 |
| RTX 5070 Ti | 12GB | 12~14B — 코딩 보조가 됩니다 |
| RTX 5080 | 16GB | 12~14B 여유, 22B 빠듯 |
| RTX 5090 | 24GB | 32B까지 |
코딩 보조를 원하면 5070 Ti(12GB)부터입니다. 5070 노트북은 이름이 비슷해도 8GB라 여기에 못 미칩니다.
여유 쓸 수 있습니다
RTX 5060 Ti 16GB로 12~14B 모델은 무리 없습니다. 지금 카드를 그대로 쓰시면 됩니다.지금 카드로는 12~14B까지입니다. 더 큰 20~22B 모델까지 돌리려면 RTX 5090(메모리 32GB) 이상이 필요합니다.
이 길이에서는 대부분이 모델 가중치입니다. 짧게 써도 크게 안 줄어듭니다.
필요 10.6GB = 가중치 8.8 + 컨텍스트 0.8 + 여유 1.0 내 카드 16GB
다른 크기도 함께 보기
| 모델 크기 | 필요 메모리 | 내 카드에서 |
|---|---|---|
| 3B Llama 3.2 3B, Qwen 3B |
3.3GB 가중치 1.9 · 컨텍스트 0.4 |
여유 전부 그래픽카드 메모리에 올라감 |
| 7~8B Llama 3.1 8B, Qwen 7B |
6.5GB 가중치 5.0 · 컨텍스트 0.5 |
여유 전부 그래픽카드 메모리에 올라감 |
| 12~14B Qwen 14B, Gemma 12B |
10.6GB 가중치 8.8 · 컨텍스트 0.8 |
여유 전부 그래픽카드 메모리에 올라감 |
| 20~22B Mistral Small |
15.7GB 가중치 13.9 · 컨텍스트 0.9 |
빠듯 짧은 내용만 다루면 가능 |
| 32B Qwen 32B, QwQ 32B |
22.2GB 가중치 20.2 · 컨텍스트 1.0 |
느림 일부가 CPU로 넘어가 답답해짐 |
| 70B Llama 3.3 70B |
46.4GB 가중치 44.1 · 컨텍스트 1.3 |
불가 실사용이 어려움 |
| 120B+ Mixtral 8x22B급 |
77.6GB 가중치 75.6 · 컨텍스트 1.0 |
불가 실사용이 어려움 |
근사치입니다. 실제로 쓸 모델의 파일 크기는 배포판마다 다릅니다. 경계선에 있다면 한 단계 위 메모리를 택하는 편이 안전합니다.
드롭다운에 노트북 RTX ... 항목이 따로 있습니다. 그걸 고르시면 됩니다 —
위 표를 보고 데스크톱 카드로 환산하실 필요가 없습니다.
노트북 RTX 5070과 RTX 5070을 번갈아 골라 보시면 이 글의 요지가 그대로 나옵니다.
같은 이름인데 판정이 다릅니다.
노트북 5070은 8GB·12GB 구성이 갈리므로 항목을 둘로 두었습니다. 본인 제품 사양을 확인하고 고르세요.
VRAM 다음으로 볼 것 — 전력 제한
같은 GPU라도 노트북마다 성능이 다릅니다.
노트북은 발열과 배터리 때문에 GPU에 허용하는 전력을 제조사가 정합니다. 얇은 모델일수록 낮게 잡히고, 그만큼 느려집니다.
- 제품 사양에 최대 그래픽 전력이 표기되어 있으면 확인하세요
- 같은 이름이어도 게이밍 노트북과 얇은 노트북은 다릅니다
- 로컬 LLM은 오래 돌리는 작업이라 발열 관리가 실제로 영향을 줍니다
다만 VRAM이 먼저입니다. 전력이 아무리 넉넉해도 안 들어가는 모델은 못 돌립니다.
램은 따로 봐야 합니다
노트북 GPU의 VRAM과 시스템 램은 다른 것입니다.
모델이 VRAM에 다 들어가면 시스템 램은 16GB로도 충분합니다. 다만 개발 작업을 겸한다면 이야기가 달라집니다.
| 상황 | 시스템 램 |
|---|---|
| 모델이 VRAM에 다 들어감 | 16GB |
| 도커·에뮬레이터·VM 병행 | 32GB |
그리고 노트북 램은 나중에 못 늘리는 경우가 많습니다. 최근 얇은 모델은 메인보드에 납땜되어 있습니다.
자세한 기준은 램 16GB vs 32GB와 개발용 노트북 사양에 정리했습니다.
맥은 규칙이 다릅니다
애플 실리콘은 전용 그래픽카드가 없고 통합 메모리를 GPU가 씁니다.
| 윈도우 노트북 | 맥 | |
|---|---|---|
| 최대 용량 | 24GB (5090 노트북) | 128GB |
| 대역폭 | 높은 편 | M5 153 ~ M5 Max 614 GB/s |
| 나중에 증설 | 불가 | 불가 |
70B 같은 큰 모델을 노트북에서 돌리고 싶다면 맥 말고는 선택지가 없습니다. 반대로 속도가 우선이면 전용 GPU 쪽이 유리합니다.
맥 구성별 기준은 맥 통합메모리 글에 있습니다.
그래서 어떻게 고르나
1. 쓸 모델 크기를 먼저 정하세요
번역·간단한 질문 → 8GB (5050 / 5060 / 5070 노트북)
코딩 보조 → 12GB (5070 Ti 노트북)
더 큰 모델 → 16GB 이상
2. 제품 사양에서 VRAM 숫자를 직접 확인하세요
이름만 보면 틀립니다. "RTX 5070" 이라고만 적혀 있으면 판매자에게 물어보세요.
3. 램 슬롯이 있는지 확인하세요
없으면 살 때 32GB를 골라야 합니다.
4. 들고 다닐 일이 없다면 데스크톱을 보세요
같은 예산에서 VRAM이 더 크고, 발열 제약도 없습니다. 노트북은 이동이 필요할 때 지불하는 비용이라고 보시는 편이 정확합니다.
자주 묻는 질문
노트북 RTX 5090이면 데스크톱 5090이랑 같나요
다릅니다. VRAM이 24GB 대 32GB이고, 사용하는 칩 자체가 다릅니다. 노트북 5090은 데스크톱 5080에 가까운 물건입니다.
8GB 노트북으로 14B를 돌릴 수 있나요
돌아가긴 하지만 일부가 CPU로 넘어가 느려집니다. 모델 파일만 9GB라 컨텍스트를 줄여도 해결되지 않습니다. 8GB의 한계선에 자세히 적었습니다.
외장 그래픽카드(eGPU)를 붙이면 되나요
VRAM 문제는 해결됩니다. 연결 대역폭 병목은 게임에서는 크지만 추론에서는 구조상 거의 안 탑니다 — 모델을 올린 뒤에는 연산이 카드 안에서 끝나기 때문입니다. 대신 박스 값이 따로 들어서, 합쳐 보면 데스크톱이 나오는 경우가 있습니다. 갈림 조건은 eGPU와 로컬 LLM에 정리했습니다.
게이밍 노트북이 로컬 LLM에 유리한가요
유리합니다. VRAM이 크고 전력 제한이 덜하며 냉각이 낫습니다. 대신 무겁고 배터리가 짧습니다. 들고 다니는 빈도로 판단하세요. 자세한 갈림길은 게이밍 노트북 개발용으로 괜찮나에 정리했습니다.
오래 돌리면 느려지는데 정상인가요
노트북은 열이 쌓이면 스스로 속도를 낮춥니다. 로컬 LLM은 몇 분씩 연속으로 도는 작업이라 이 구간에 가장 잘 걸립니다. 구조는 노트북 발열과 성능 저하에 있습니다.
내장그래픽만 있는 노트북은요
로컬 LLM에는 적합하지 않습니다. 시스템 램을 나눠 쓰기 때문에 대역폭이 낮습니다. 이유는 CPU로 돌리면 얼마나 느린가에 있습니다.
정리
- 노트북 GPU는 이름이 같아도 VRAM이 다릅니다. 여섯 종 중 셋이 갈립니다
- 노트북 5070은 8GB, 데스크톱 5070은 12GB입니다
- 코딩 보조를 원하면 5070 Ti(12GB)부터입니다
- VRAM 다음은 전력 제한입니다. 얇은 모델일수록 낮게 잡힙니다
- 큰 모델을 노트북에서 돌리려면 맥 말고는 선택지가 없습니다
- 이동이 필요 없다면 데스크톱이 같은 예산에서 유리합니다
스펙이 실제와 다르면 알려주세요. 확인 후 갱신합니다.