노트북에 eGPU — 게임엔 아쉽지만 로컬 LLM엔 잘 맞는 이유
노트북으로 로컬 LLM을 하고 싶은데 VRAM이 모자랍니다. 노트북을 바꾸자니 크고, 데스크톱을 두자니 자리가 없습니다.
이때 나오는 선택지가 eGPU — 데스크톱 그래픽카드를 외장 박스에 넣어 썬더볼트로 꽂는 방식입니다. 그리고 검색하면 "성능 손해가 크다"는 게임 쪽 평이 먼저 나옵니다.
그 평은 게임 기준입니다. 로컬 LLM은 사정이 다릅니다.
결론부터
| 게임 | 로컬 LLM 추론 | |
|---|---|---|
| 케이블을 오가는 것 | 프레임마다 CPU↔GPU 왕복 | 모델 로드 때 한 번 |
| 대역폭 병목 | 체감됩니다 | 로드 시간만 늘어납니다 |
| 카드 성능 활용 | 깎입니다 | 생성 속도는 거의 그대로 |
추론은 카드 안에서 끝나는 작업이라 케이블이 좁아도 됩니다. 아래에 그 이유와, 대신 확인해야 할 것들을 정리했습니다.
왜 게임에선 손해인가 — 케이블이 좁아서
썬더볼트 4는 40Gbps입니다. 넓어 보이지만, 데스크톱에서 그래픽카드가 꽂히는 슬롯(PCIe x16)에 비하면 몇 분의 일 수준입니다.
게임은 이 좁은 길을 매 프레임 오갑니다 — CPU가 그릴 것을 넘기고, GPU가 그린 것을 받아 노트북 화면에 띄우고. 그래서 같은 카드라도 eGPU로 꽂으면 게임 성능이 깎이고, 그게 eGPU의 악명이 됐습니다.
왜 LLM에선 괜찮은가 — 케이블을 거의 안 씁니다
로컬 LLM 추론의 데이터 흐름은 다릅니다.
모델 로드 : SSD → (케이블) → VRAM ← 여기서만 케이블을 크게 씁니다
추론(생성) : 전부 VRAM 안에서 ← 케이블에는 토큰 몇 글자만이 사이트가 반복해 온 그대로, LLM 추론은 가중치와 기억(KV 캐시)을 VRAM에 두고 카드 혼자 도는 작업입니다. 케이블로 오가는 것은 질문과 답변 텍스트 정도라, 좁은 길의 영향이 구조적으로 작습니다.
체감 차이는 이렇게 나타납니다.
- 모델 로드가 느려집니다 — 수 GB를 케이블로 넘겨야 하니까요. 한 번 올린 뒤에는 상관없습니다
- 생성 속도는 카드 대역폭이 정합니다 — 케이블이 아니라 카드 안 메모리 대역폭 이야기입니다
⚠️ "손실이 몇 %"라고는 적지 않겠습니다 — 측정하지 않았습니다. 구조상 게임보다 훨씬 덜 탄다는 것까지가 이 글이 말할 수 있는 범위입니다.
무엇이 필요한가 — 셋 다 확인해야 합니다
① 노트북 포트 — 썬더볼트 3/4 또는 USB4 여야 합니다. 모양이 같은 USB-C라도 데이터 전용 포트에는 안 됩니다. 포트 옆 번개 표시나 사양표의 Thunderbolt/USB4 표기를 확인하세요 — 원케이블 글의 포트 확인법과 같은 요령입니다.
② eGPU 박스(인클로저) — 카드를 넣는 통입니다. 자체 파워가 들어 있어서, 지원 전력이 카드 TDP를 감당하는지 봐야 합니다 — 계산은 파워 용량 글과 같고, 카드 보조전원 커넥터(12V-2x6 등)를 박스가 내주는지도 함께 봅니다.
③ 카드 — 이 사이트의 본업입니다. eGPU라고 기준이 달라지지 않습니다: VRAM 용량이 먼저입니다. 어떤 카드가 필요한지부터 정하세요.
여유 쓸 수 있습니다
RTX 5060 Ti 16GB로 12~14B 모델은 무리 없습니다. 지금 카드를 그대로 쓰시면 됩니다.지금 카드로는 12~14B까지입니다. 더 큰 20~22B 모델까지 돌리려면 RTX 5090(메모리 32GB) 이상이 필요합니다.RTX 5090 가격 보기
이 길이에서는 대부분이 모델 가중치입니다. 짧게 써도 크게 안 줄어듭니다.
필요 10.6GB = 가중치 8.8 + 컨텍스트 0.8 + 여유 1.0 내 카드 16GB
다른 크기도 함께 보기
| 모델 크기 | 필요 메모리 | 내 카드에서 |
|---|---|---|
| 3B Llama 3.2 3B, Qwen 3B |
3.3GB 가중치 1.9 · 컨텍스트 0.4 |
여유 전부 그래픽카드 메모리에 올라감 |
| 7~8B Llama 3.1 8B, Qwen 7B |
6.5GB 가중치 5.0 · 컨텍스트 0.5 |
여유 전부 그래픽카드 메모리에 올라감 |
| 12~14B Qwen 14B, Gemma 12B |
10.6GB 가중치 8.8 · 컨텍스트 0.8 |
여유 전부 그래픽카드 메모리에 올라감 |
| 20~22B Mistral Small |
15.7GB 가중치 13.9 · 컨텍스트 0.9 |
빠듯 짧은 내용만 다루면 가능 |
| 32B Qwen 32B, QwQ 32B |
22.2GB 가중치 20.2 · 컨텍스트 1.0 |
느림 일부가 CPU로 넘어가 답답해짐 |
| 70B Llama 3.3 70B |
46.4GB 가중치 44.1 · 컨텍스트 1.3 |
불가 실사용이 어려움 |
| 120B+ Mixtral 8x22B급 |
77.6GB 가중치 75.6 · 컨텍스트 1.0 |
불가 실사용이 어려움 |
근사치입니다. 실제로 쓸 모델의 파일 크기는 배포판마다 다릅니다. 경계선에 있다면 한 단계 위 메모리를 택하는 편이 안전합니다.
이 조합이 맞는 사람, 아닌 사람
맞는 경우
- 노트북은 가볍게 유지하고, 집에서만 큰 모델을 돌리고 싶다
- 책상에 데스크톱 놓을 자리가 없다
- 나중에 데스크톱으로 갈 때 카드를 그대로 옮기고 싶다
아닌 경우
- 맥입니다 — 애플 실리콘은 지금까지 eGPU를 지원하지 않습니다. 맥에서 큰 모델은 통합 메모리 용량으로 푸는 문제입니다
- 게임 성능이 주목적이다 — 위에서 말한 대로 깎입니다
- 총비용을 따져보니 데스크톱이 나온다 — 박스 값이 만만치 않아서, 카드+박스 값이면 본체가 조립되는 경우가 있습니다. 견줘보고 정하세요
자주 묻는 질문
오큘링크(OCuLink)라는 것도 있던데요
썬더볼트보다 넓은 대역폭을 싸게 내는 연결 방식입니다. 다만 지원하는 노트북이 드물고 꽂은 채 탈착하는 편의성이 떨어집니다. 포트가 있는 노트북이라면 선택지가 되고, 없는 노트북이 대부분입니다.
노트북 내장 GPU와 eGPU를 같이 쓸 수 있나요
로컬 LLM 기준으로는 한쪽에 모델을 통째로 올리는 것이 기본입니다. eGPU 쪽 VRAM이 크면 그쪽에 올리면 되고, 두 GPU에 나누는 것은 여러 장 글에서 말한 오버헤드가 그대로 붙습니다.
미니PC나 데스크톱에도 eGPU를 쓰나요
포트만 있으면 되지만, 데스크톱은 슬롯에 꽂는 쪽이 싸고 빠릅니다. eGPU가 값어치를 갖는 것은 슬롯이 없는 기기(노트북·미니PC)뿐입니다.
로드가 얼마나 느려지나요
모델 파일 크기를 케이블 속도로 나눈 만큼입니다. 수 GB 모델이면 내장 슬롯 대비 수십 초 단위로 길어지는 정도이고, 하루 한 번 올려두고 쓰는 패턴이면 체감이 작습니다. 자주 모델을 갈아타는 패턴이면 거슬립니다.
썬더볼트 5가 나오면 달라지나요
케이블이 넓어지면 로드가 빨라지고 게임 손실도 줄어드는 방향입니다. 다만 추론 속도는 지금도 케이블이 병목이 아니므로 이 글의 결론은 그대로입니다.
정리
- eGPU의 악명("성능 깎임")은 게임 기준입니다 — 프레임마다 케이블을 오가는 작업이라서요
- LLM 추론은 카드 안에서 끝나는 작업이라 케이블 병목을 거의 안 탑니다. 느려지는 것은 모델 로드뿐입니다
- 확인할 것 셋 — 노트북의 썬더볼트/USB4 포트, 박스의 전력·커넥터, 카드의 VRAM
- 맥은 안 됩니다. 애플 실리콘은 eGPU 미지원 — 맥은 통합 메모리로 푸는 문제입니다
- 카드+박스 값이면 데스크톱이 조립되기도 합니다 — 총비용을 견주고 정하세요
노트북 내장 GPU로 어디까지 되는지는 로컬 LLM 되는 노트북 고르기에 있습니다.
구조 설명이 실제와 다르게 동작하면 알려주세요. 확인 후 갱신합니다.