GPU

로컬 LLM·딥러닝용 그래픽카드

GPU 중고 RTX 3090 vs 신품 4070 — 로컬 LLM은 어느 쪽 로컬 LLM에서는 세대가 낮아도 VRAM이 큰 쪽이 유리합니다. 3090 24GB와 4070 12GB를 실제 기준으로 비교했습니다.
GPU Ollama 최소 사양 — 내 VRAM으로 몇 B 모델까지 돌아가나 로컬 LLM을 돌리기 전에 확인할 것은 GPU 이름이 아니라 VRAM입니다. VRAM 용량별로 실제 돌아가는 모델 크기를 정리했습니다.