리타의 경제지표 Time · 쉽게 읽는 AI 인프라
AI가 번 돈은,
결국 누구 주머니로 갈까?
"네오클라우드"라는 낯선 이름부터 시작해서, GPU 한 장을 뜯어보면 왜 한국(SK하이닉스)이 나오는지까지. AI 인프라의 돈 흐름을 따라가 봅니다.
3줄 요약부터 보고 갈게요
① AI를 돌리려면 GPU(연산 칩)가 필요한데, 그걸 급하게 빌려주는 임대업이 네오클라우드예요. ② 하지만 "빌려주는 것" 자체는 누구나 할 수 있어서 진짜 돈 되는 자리(해자)는 따로 있어요. ③ 판이 학습에서 추론으로 넘어가면서, 이젠 GPU보다 메모리(HBM)와 전기가 병목이 됐고 — 그 HBM을 만드는 게 한국의 SK하이닉스입니다.
0지금 무슨 일이 벌어지나
// 먼저 큰 그림
요즘 AI 회사들은 AI를 돌릴 데이터센터를 짓느라 돈을 미친 듯이 쓰고 있어요. 그런데 문제가 하나 있습니다. 데이터센터를 새로 지으려면 땅 사고, 전기 끌어오고, 건축 허가받는 데만 보통 3~5년이 걸려요. 그 사이에도 AI를 쓰겠다는 수요는 폭발하는데 말이죠.
"집은 3년 뒤에 완성되는데, 당장 오늘 밤 잘 곳이 필요한" 상황. 이 틈을 노리고 등장한 게 바로 다음 주인공이에요.
1네오클라우드 = "GPU 원룸 임대업"
// Neocloud
네오클라우드는 한마디로 엔비디아 GPU를 왕창 사서, AI 돌릴 회사한테 시간 단위로 빌려주는 임대업이에요. 대표 회사가 코어위브(CoreWeave)예요.
쉽게 말하면
하이퍼스케일러(AWS·구글·MS 등)는 방·부엌·화장실·주차장·경비실까지 다 갖춘 대단지 아파트를 지어서 파는 회사예요. 편하지만 짓는 데 오래 걸리죠.
네오클라우드는 "GPU 돌리는 방 하나"만 아주 잘 만든 원룸이에요. 다른 건 없어요. 대신 그것만큼은 세계에서 제일 빨리 내줍니다.
돈은 어떻게 버냐면, 자기 돈이 아니라 빚을 내서 GPU를 사요. 그리고 그 GPU를 담보로 잡히죠. 대신 몇 년짜리 대형 계약을 미리 따놓습니다. 코어위브는 이렇게 미리 잡아둔 계약(수주잔고)이 한때 약 994억 달러까지 쌓였어요.
2왜 이렇게 빠를까?
// 속도의 비밀
비결은 단순해요. 새로 안 짓고, 있는 걸 빌려서 GPU만 꽂아요. 건물은 기존 데이터센터를 임대하고, 그 안에 최신 GPU를 채워 넣는 거죠. 짓는 3~5년을 통째로 건너뛰는 겁니다.
게다가 하이퍼스케일러는 수백 가지 서비스를 다 얹느라 복잡한데, 네오클라우드는 "GPU 임대" 딱 하나만 해서 군더더기가 없어요. 그래서 고객이 신청하면 수천 개 GPU를 몇 분~몇 시간 안에 띄워줍니다. (하이퍼스케일러는 대기줄에서 며칠씩 기다리기도 해요.)
3근데… 이거 아무나 하는 거 아냐?
// 해자(垓子) — 남이 못 따라오는 방어벽
여기서 날카로운 질문이 나와요. "똑같은 엔비디아 GPU 사서, 비슷한 건물에 꽂아 빌려주는 거면 — 돈 있는 회사는 누구나 하겠네?" 맞아요. 그래서 네오클라우드는 해자가 약하다는 게 시장의 다수 의견이에요. 실제로 메타·소프트뱅크까지 이 사업에 뛰어들었고, 코어위브 주가는 고점 대비 크게 빠지기도 했어요.
그럼 진짜 돈 되는 자리는 어디일까요? 힌트: 데이터센터라는 "건물"이 아니라, 그 위층과 아래층에 있어요.
⬆ 위층 — 고객 데이터
전환 비용 = 갈아타기 지옥
고객 데이터가 이미 AWS에 다 들어가 있으면, AI도 그냥 거기서 돌리는 게 편해요. 옮기는 게 고통이니까요. 이게 하이퍼스케일러의 가장 센 방어벽이에요.
⬇ 아래층 — 전기
GPU는 흔해도 전력은 못 흔해
GPU를 사도 돌릴 전기가 없으면 무용지물이에요. 그래서 요즘 진짜 경쟁은 "누가 장기 전력 계약을 먼저 확보하느냐"로 옮겨갔어요.
결론은 이거예요. "데이터센터를 짓는 것" 자체는 해자가 아니에요. 다섯 군데가 다 똑같이 지으니까요. 승부는 늘 데이터센터 바깥(데이터·전기·소프트웨어)에서 납니다.
4판이 바뀐다 — "학습"에서 "추론"으로
// 이게 이 글의 진짜 반전
두 단어만 알면 돼요
학습(Training) = AI를 공부시키는 단계. 한 번(또는 가끔) 하고 끝나요. 힘 센 GPU가 필요해요.
추론(Inference) = 다 배운 AI에게 질문하고 답 받는 단계. 사용자가 쓸 때마다 매번 돌아가요.
지금까지는 "공부시키기(학습)"가 주인공이었어요. 그런데 이제 AI가 다 배웠으니, 실제로 써먹는 단계(추론)로 넘어가는 중이에요. 추론이 2026년 전체 AI 연산의 약 2/3를 차지할 전망이고, 놀랍게도 AI 시스템 평생 비용의 80~90%가 이 추론에서 나와요. 공부는 한 번이지만, 써먹는 건 24시간 계속되니까요.
그런데 추론에 필요한 건 학습과 완전히 달라요. 학습이 "얼마나 힘이 센가(연산력)"였다면, 추론은 —
👉 메모리 속도(데이터를 얼마나 빨리 꺼내오나), 👉 싼 값(질문 한 번당 단가), 👉 그리고 다시 전기가 중요해져요. 여기서 엔비디아 독점도 살짝 흔들려요 — 구글 TPU, AMD 같은 대안이 추론에선 파고들 틈이 생기거든요.
5GPU 한 장을 뜯어보자
// 돈이 어떻게 갈라지나
"메모리가 중요하다"는 말, 사실 GPU 안에 이미 들어있어요. 우리가 "엔비디아 H100 한 장"이라 부르는 건, 사실 여러 부품을 한 판에 붙여놓은 세트거든요. 그 안에 HBM이라는 초고속 메모리가 두뇌(연산 칩) 바로 옆에 박혀 있어요. 이 HBM을 만드는 게 바로 SK하이닉스·삼성·마이크론이에요.
그럼 H100 한 장(제조원가 약 $3,320)의 값이 어디로 갈까요?
H100 한 장 제조원가 뜯어보기 (약 $3,320)
// 부품별 원가 · 출처: siliconanalysts 추정
HBM 메모리~$1,350 · 제일 비쌈!
→ SK하이닉스 · 삼성 · 마이크론 (한국!)
연산 칩(두뇌)~$300 · 의외로 작음
→ 설계=엔비디아 / 제조=TSMC
반전 ①: 엔비디아가 실제 설계하는 "두뇌"는 원가의 1/4도 안 돼요. 제일 비싼 부품은 오히려 HBM 메모리예요.
그런데 여기서 진짜 반전이 나와요. 만드는 데 $3,320 든 이 GPU를, 엔비디아는 얼마에 팔까요?
→ 차액 약 $23,700을 엔비디아가 가져감 (매출총이익률 ≈ 88%)
반전 ②: 제일 비싼 부품은 HBM(메모리)인데, 정작 돈은 엔비디아가 다 벌어요. 왜냐고요? 엔비디아만의 소프트웨어(CUDA)라는 "통행세" 때문이에요. AI를 돌리려면 사실상 엔비디아 길로 가야 해서, 부품값이 얼마든 엔비디아가 웃돈을 붙일 수 있는 거죠.
그리고 결정적으로 — 최신 칩일수록 HBM이 차지하는 비중이 폭발적으로 커져요. 최신 GB200 슈퍼칩은 HBM만으로 제조원가의 약 43%예요. 추론 시대로 갈수록 메모리가 더 중요해지니, GPU 한 장에 들어가는 HBM은 계속 늘어납니다.
✦정리 — "3가지 렌즈"로 보면
// 커질수록 필요한가 · 대체 어려운가 · 통제권은 누구에게
| 렌즈 | 학습 시대 (지금까지) | 추론 시대 (앞으로) |
|---|
커질수록
필요한 것 | 연산력 (GPU) | 메모리(HBM) + 전기 |
대체하기
어려운 것 | 엔비디아 GPU·CUDA | HBM 공급 (3사 과점) + 전력 |
통제권을
쥔 쪽 | 엔비디아 | HBM 제조사 · 전력 소유자 · 커스텀칩 |
HBM은 AI가 커질수록 반드시 여러 개씩 들어가고(필요), SK하이닉스·삼성·마이크론 3곳만 만들 수 있고(대체 어려움), 이미 1년치 넘는 물량이 완판(협상력)됐어요. 세 가지 렌즈를 다 통과하죠.
🔍 시금석 — 이 흐름이 진짜인지 확인할 지표들
- 추론 비중이 실제로 커지나? — 전체 AI 연산에서 추론이 차지하는 비율 (2/3 돌파 여부)
- HBM은 계속 품귀인가? — SK하이닉스·삼성·마이크론의 HBM 완판·증설 속도
- 엔비디아 독점이 흔들리나? — 구글 TPU·AMD가 추론 시장을 얼마나 가져가나
- 전기가 병목인가? — 네오클라우드·데이터센터의 장기 전력 계약 확보 경쟁
한 문장으로 남기면 —
AI 1차전(공부시키기)은 엔비디아가 이겼어요. 하지만 2차전(써먹기)의 병목은 메모리와 전기로 옮겨가는 중이에요.
그래서 "엔비디아 GPU가 잘 팔린다"는 뉴스를 보면, 그 원가의 가장 큰 조각은 사실 한국(SK하이닉스)이 만들고 있다는 걸 기억하면 좋아요. 겉으로 보이는 주인공 뒤에, 조용히 통행세를 걷는 자리가 늘 따로 있거든요.
※ 이 글은 특정 종목의 매수·매도를 권하는 투자 자문이 아니며, 정보 제공을 목적으로 합니다. 수치(원가·마진·계약 규모 등)는 공개 자료 기반 추정치로, 시점에 따라 달라질 수 있습니다. 투자 판단과 그 책임은 투자자 본인에게 있습니다.
댓글
댓글 쓰기