맥으로 로컬 LLM — 통합메모리 몇 GB를 사야 하나

맥으로 로컬 LLM을 돌리려는 사람이 가장 먼저 듣는 말은 "맥은 통합 메모리라 큰 모델이 돌아간다"입니다.

맞는 말입니다. 그런데 이 한 문장 때문에 비싼 구성을 사거나, 반대로 모자란 구성을 사는 일이 자주 생깁니다. 맥은 나중에 메모리를 못 늘리기 때문에 이 선택이 그대로 굳습니다.

바로 확인하기

칩과 메모리 구성을 고르면 어떤 모델까지 되는지 나옵니다.

결론부터

14B까지 쓸 거면 24GB, 32B를 넘본다면 48GB부터입니다.

그리고 속도는 이 표와 별개로 칩이 정합니다. 아래에서 설명합니다.

맥에서 헷갈리는 것 두 가지

1. 전체 메모리를 다 쓰지는 못합니다

이게 가장 많이 어긋나는 부분입니다.

macOS는 통합 메모리 전부를 모델에 내주지 않습니다. GPU 작업에 쓸 수 있는 몫에 상한이 있고, 대략 전체의 75% 선입니다. 나머지는 운영체제와 다른 프로그램 몫입니다.

"64GB니까 60GB짜리 모델이 돌아가겠지"가 안 되는 이유입니다. 위 계산기의 판정도 이 몫을 기준으로 합니다.

터미널 명령으로 이 상한을 올릴 수는 있습니다. 다만 애플이 보장하는 방법이 아니고 재부팅하면 초기화되며, 시스템 몫까지 가져가면 맥 전체가 느려집니다. 이 글에서는 권하지 않습니다.

2. 속도는 용량이 아니라 칩이 정합니다

같은 32GB라도 M5냐 M5 Pro냐에 따라 생성 속도가 두 배 차이납니다.

LLM 추론은 매 토큰마다 모델 가중치를 읽어야 해서 메모리 대역폭에 묶입니다. 용량은 "돌아가느냐"를 정하고, 대역폭은 "얼마나 빠르냐"를 정합니다.

M5 · 32GB        22GB 까지 올라감,  153 GB/s
M5 Pro · 24GB    16GB 까지 올라감,  307 GB/s   ← 더 작은데 훨씬 빠름

14B를 쾌적하게 쓰고 싶다면 M5 32GB보다 M5 Pro 24GB가 나을 수 있습니다. 14B는 둘 다 올라가고, 그러면 대역폭이 체감을 정하기 때문입니다.

이 순서는 그래픽카드에서와 같습니다 — 용량이 먼저, 들어가고 나면 대역폭입니다.

맥이 유리한 경우, 불리한 경우

유리한 경우 — 용량

전용 그래픽카드는 VRAM을 늘리기가 어렵습니다. 개인용 최상급이 32GB(RTX 5090)인데, 맥은 128GB까지 갑니다.

70B 모델을 개인 장비에서 돌리는 가장 현실적인 방법이 맥입니다. 그래픽카드로 하려면 여러 장을 꽂아야 하고 전력·소음·공간이 전부 문제가 됩니다.

불리한 경우 — 속도

대역폭이 상급 그래픽카드보다 낮습니다.

같은 모델이 둘 다 올라간다면 그래픽카드가 더 빠릅니다.

용량이 필요하면  →  맥
속도가 필요하면  →  전용 그래픽카드

그리고 전력·소음

맥의 장점 중 로컬 LLM에서 실제로 체감되는 것입니다. 노트북에서 팬 소음 없이 돌아가고, 전력도 비교가 안 됩니다. RTX 5090은 575W입니다.

어떤 구성을 사야 하나

16GB — 권하지 않습니다

7~8B까지만 됩니다. 14B가 빠듯해서 코딩 보조로 쓰기엔 아쉽습니다. 로컬 LLM이 목적이라면 최소 24GB부터 보세요.

24GB — 최소 실용선

14B가 여유롭게 돌아갑니다. 코딩 보조와 문서 요약은 여기서 됩니다. M5 Pro 24GB면 대역폭까지 307 GB/s라 체감이 확실히 낫습니다.

32~48GB — 무난한 선택

32GB면 22B까지, 48GB면 32B까지 여유롭습니다. 대부분의 사람에게는 여기가 상한입니다.

64GB 이상 — 70B를 노릴 때만

70B는 128GB에서야 여유롭습니다. 64GB에서는 빠듯합니다. 70B를 쓸 계획이 없다면 이 돈은 다른 데 쓰는 편이 낫습니다.

자주 묻는 질문

맥북에어로도 로컬 LLM이 되나요

됩니다. 다만 에어는 M5 기본 칩이라 대역폭 153 GB/s이고 팬이 없습니다. 7~8B 모델은 무리 없지만, 길게 돌리면 발열로 속도가 떨어질 수 있습니다. 14B 이상을 상시로 쓸 계획이면 프로 쪽이 맞습니다.

나중에 메모리를 늘릴 수 있나요

없습니다. 애플 실리콘은 메모리가 칩 패키지에 붙어 있어 교체가 불가능합니다. 살 때 정해야 하고, 부족하면 기기를 바꾸는 수밖에 없습니다. 이것 때문에 한 단계 위를 고르는 편이 안전합니다.

같은 64GB면 M5 Pro와 M5 Max가 같나요

올라가는 모델 크기는 같고, 속도가 다릅니다. 쓸 수 있는 몫은 둘 다 약 46GB지만 대역폭이 307 vs 460 GB/s입니다. 같은 모델이 Max에서 더 빠릅니다.

맥 vs 그래픽카드, 로컬 LLM에는 뭐가 낫나요

32B 이하만 쓸 거면 그래픽카드가 낫습니다. 같은 값에 더 빠릅니다. 70B를 쓰고 싶으면 맥 말고는 현실적인 선택지가 없습니다. 그래픽카드로는 32GB(RTX 5090)가 개인용 상한입니다.

인텔 맥은 어떤가요

통합 메모리 구조가 아니라서 이 글의 내용이 적용되지 않습니다. 전용 GPU가 없는 모델이라면 CPU로만 돌아가 매우 느립니다.

정리

1. 전체 메모리를 다 못 씁니다. 약 75%가 상한이라 64GB면 46GB 정도입니다
2. 속도는 용량이 아니라 칩이 정합니다. M5 153, M5 Pro 307, M5 Max 460~614 GB/s
3. 14B까지면 24GB, 32B를 넘보면 48GB부터입니다
4. 70B를 노릴 때만 128GB가 의미 있습니다. 아니면 돈 낭비입니다
5. 나중에 못 늘립니다. 애매하면 한 단계 위가 안전합니다
6. 용량이 필요하면 맥, 속도가 필요하면 그래픽카드입니다

그래픽카드 쪽 기준은 Ollama 최소 사양 정리에 있습니다.

수치가 실제 환경과 다르면 알려주세요. 확인 후 갱신합니다.