로컬 LLM 전기요금 — 정말 공짜인가

시작 가이드에 "공짜이고 전기요금만 듭니다"라고 적었습니다.

맞는 말인데 그 전기요금이 얼마인지는 안 적었습니다. 계산해 보면 경우에 따라 무시할 수 없는 금액이 나옵니다. 특히 누진 구간에 걸릴 때 그렇습니다.

답의 모양부터

하루 1~2시간에 중급 카드라면 신경 안 쓰셔도 되는 수준이고, 하루 종일 띄워두되 가끔 질문하는 정도도 생각보다 적습니다. 갈리는 건 24시간 계속 돌리는 서버 구성부터고, 상급 카드에 장시간이 겹치면 누진 최고 구간까지 들어갑니다.

그리고 핵심은 시간이 아니라 "우리 집이 이미 몇 kWh 를 쓰고 있는가"입니다. 누진제 때문에 같은 사용량이라도 집집마다 요금이 다릅니다.

1. 계산은 곱셈 하나입니다

쓴 전력량(kWh) = 소비 전력(W) × 시간 ÷ 1000

카드의 소비 전력은 사양표의 TDP 를 보시면 됩니다.

하루 2시간씩 한 달(30일) 쓴다고 하면 이렇습니다.

하루 두 시간이면 대부분 큰 부담이 아닙니다. 여기까지가 좋은 소식입니다.

⚠️ TDP 로 계산한 값은 상한입니다

실제로는 이보다 덜 씁니다.

이 사이트가 반복해 온 이야기인데, 로컬 LLM 은 메모리를 얼마나 빨리 읽느냐에 묶여 있습니다. 그래서 계산하는 부분은 오히려 놀고 있습니다. 게임처럼 카드를 꽉 채워 쓰지 않습니다.

다만 얼마나 덜 쓰는지는 재봐야 압니다. 이 사이트는 측정하지 않았습니다. 그래서 위 표는 "이보다는 안 나온다"는 상한으로 읽으시는 편이 맞습니다.

2. 진짜 변수는 누진제입니다

같은 10kWh 를 더 써도 집마다 요금이 다릅니다.

주택용 저압 요금은 쓴 양에 따라 단가가 올라가는 3단계 구조입니다.

중요한 건 추가로 쓴 몫이 어느 구간에서 계산되느냐입니다.

평소 150kWh 쓰는 집이 15kWh 를 더 씀   →  아직 1단계. 부담 작음
평소 390kWh 쓰는 집이 15kWh 를 더 씀   →  3단계로 넘어감. 부담 큼

로컬 LLM 이 문제가 아니라, 그것 때문에 구간이 바뀌는 게 문제입니다. 여름에 에어컨을 쓰는 집이라면 특히 그렇습니다.

단가는 이 글에 적지 않았습니다. 요금은 개정되고, 숫자를 박아두면 이 글이 금방 틀린 글이 됩니다. 한전 사이버지점에서 지금 우리 집 사용량과 요금표를 직접 보시는 편이 정확합니다.

3. 24시간 돌리면 이야기가 달라집니다

여기가 실제로 갈리는 지점입니다.

로컬 LLM 을 항상 켜두고 API 처럼 쓰거나, 밤새 일괄 처리를 돌리는 경우입니다.

마지막 줄을 보세요. 그래픽카드 하나만으로 누진 3단계 경계(400kWh)를 넘깁니다. 집에서 쓰는 다른 전기는 계산에 넣지도 않았는데 그렇습니다.

⚠️ 실제로는 24시간 내내 계산하는 게 아니라 요청이 있을 때만 돌아갑니다. 대기 중에는 훨씬 적게 씁니다. 그래도 켜두는 것만으로 드는 몫이 있고, 위 숫자는 그 상한을 보여줍니다.

상시 구성이라면 전기요금 말고 확인할 것이 둘 더 있습니다 — 효율 등급(80PLUS — 상시 가동에서 웃돈이 회수됩니다)과 정전 대비(UPS — 자리 비운 컴퓨터의 보험입니다).

24시간 구성을 생각하신다면 소비 전력이 낮은 카드가 유리합니다. 같은 VRAM 이면 TDP 를 보세요 — 예를 들어 16GB 구간에서 5060 Ti(180W)와 5080(360W)은 돌아가는 모델이 같습니다.

4. 그래도 구독보다 싼가

대부분의 개인 사용에서는 그렇습니다. 다만 이유가 전기요금 때문만은 아닙니다.

하루 두 시간 쓰는 정도면 전기요금은 구독료보다 확실히 적습니다.

다만 카드값을 먼저 치렀다는 점을 빼놓으면 안 됩니다. 이미 게이밍용으로 카드가 있다면 추가 비용이 전기요금뿐이라 유리하고, 로컬 LLM 하나 때문에 카드를 새로 산다면 본전을 뽑는 데 오래 걸립니다.

그래서 시작 가이드에서 "일단 지금 장비로 먼저 해보라"고 적었습니다.

돈으로만 따지면 구독이 이기는 경우도 많습니다. 로컬 LLM 의 값어치는 대개 내 자료가 밖으로 안 나간다는 쪽에 있습니다.

5. 줄이는 방법

① 안 쓸 때는 모델을 내리세요 메모리에 올라가 있으면 카드가 완전히 쉬지 못합니다. ollama ps 로 확인하고 정리하시면 됩니다.

② 작은 모델로 충분한 일은 작은 모델로 3B 로 되는 일이 생각보다 많습니다. 읽을 양이 적으면 그만큼 빨리 끝나고, 빨리 끝나면 전기도 덜 씁니다.

③ 24시간 구성이라면 저전력 카드로 같은 VRAM 이면 TDP 가 낮은 쪽이 유리합니다.

④ 우리 집이 몇 kWh 를 쓰는지 먼저 보세요 누진 구간에 여유가 있으면 신경 쓸 일이 아니고, 400kWh 근처라면 다릅니다.

덧붙여 두는 것들

대기 중에도 전기를 먹느냐면 — 모델이 메모리에 올라가 있으면 완전히 쉬지 못합니다. 다만 계산 중일 때와는 차이가 크니, 오래 안 쓰실 거면 내려두세요. CPU로 돌리면 덜 쓰지 않냐는 질문도 많은데, 소비 전력은 낮지만 훨씬 오래 걸려서 같은 답을 얻는 데 드는 총 전력은 오히려 비슷하거나 더 많을 수 있습니다 — CPU 추론이 왜 느린지는 따로 정리했습니다.

노트북은 소비 전력이 훨씬 낮아 전기요금이 문제가 안 되는 대신 배터리로는 오래 못 가고, 애플 실리콘 맥은 전력 대비 효율이 좋은 편이라 이 항목에선 유리합니다 — 용량과 속도의 성격은 달라서 맥 통합메모리 글을 함께 보세요. 파워서플라이 용량은 TDP에 나머지 부품과 여유를 더해 잡고, 카드를 두 장 꽂으면 계산이 또 달라집니다 — 그래픽카드 두 장에 적었습니다.

계산의 뼈대는 처음의 곱셈 하나로 돌아갑니다 — W × 시간 ÷ 1000, 단 TDP로 계산한 값은 상한이고 추론은 카드를 꽉 채워 쓰지 않습니다. 하루 1~2시간이면 신경 쓸 금액이 아니고, 진짜 변수는 누진 구간이며, 24시간 구성만 다른 세계입니다(5090은 그것만으로 400kWh를 넘깁니다). 정확한 금액은 한전 사이버지점에서 우리 집 최근 사용량에 위 kWh를 더해 직접 확인하세요 — 이 글에 금액을 안 적은 이유입니다.

요금 체계가 바뀌었거나 실제와 다르면 알려주세요. 확인 후 갱신합니다.