주식 시장을 보다 보면 종종 이런 생각이 듭니다. "왜 GPU 만드는 회사가 아니라 메모리 만드는 회사 주가가 이렇게 강하지?" 저도 처음엔 이 구조가 직관적으로 잘 이해되지 않았습니다. 그런데 현장에서 쌓아온 경험을 AI 시장에 대입해 보니 오히려 당연한 결과라는 걸 알게 됐습니다. 겉으로 보이는 경쟁보다, 실제 병목이 어디냐가 결국 승부를 가릅니다.

HBM이 왜 AI 시장의 진짜 병목인가?
일반적으로 AI 기술의 핵심은 GPU라고 알려져 있습니다. 그런데 제 경험상 이건 좀 다릅니다. 건설 현장에서 오래 일하다 보면, 눈에 띄는 건 외장재나 디자인이지만 공사를 실제로 멈추는 건 배관 하나, 자재 하나입니다. 특정 자재 납기가 하루만 밀려도 전체 공정이 연쇄적으로 지연되는 상황을 저는 수도 없이 봤습니다.
AI 서버도 정확히 같은 구조입니다. GPU를 아무리 많이 생산해도, 거기에 붙는 HBM(High Bandwidth Memory)이 없으면 시스템 자체가 작동하지 않습니다. 여기서 HBM이란 GPU와 메모리 사이의 데이터 전송 속도를 극대화하기 위해 메모리 칩을 수직으로 쌓아 연결한 고대역폭 메모리를 의미합니다. 쉽게 말해 AI 연산에서 "데이터를 얼마나 빠르게 먹여줄 수 있느냐"를 결정하는 부품입니다.
현재 HBM 시장은 SK하이닉스가 주도하고 있으며, 엔비디아의 H100, B200 같은 고성능 AI 가속기에는 HBM3E가 탑재됩니다. HBM3E란 HBM의 3세대 확장 규격으로, 이전 세대 대비 메모리 대역폭과 용량을 대폭 향상시킨 제품입니다. 실제로 엔비디아 B200 한 장에는 HBM3E가 192GB 탑재됩니다. GPU 없이는 AI 서버를 못 만들지만, HBM 없이도 마찬가지입니다. 그런데 GPU는 여러 회사가 만들 수 있는 반면, 양산 가능한 HBM 공급사는 전 세계에 손에 꼽힙니다.
공급망 선점 효과, 한번 뚫리면 안 바뀐다.
일반적으로 공급 관계는 품질이나 가격이 좋으면 쉽게 바뀐다고 생각하는 분들도 있는데, 저는 현장에서 전혀 다른 경험을 했습니다. 핵심 거래처를 먼저 잡은 납품사는 3년, 5년이 지나도 그 자리를 유지합니다. 한번 공급망이 고착화되면, 후발 주자가 아무리 싸게 들어와도 전환 비용과 검증 리스크 때문에 바이어가 쉽게 공급선을 바꾸지 않습니다.
HBM 시장이 바로 그 구조입니다. 현재 엔비디아, 구글, 마이크로소프트 등 글로벌 빅테크는 SK하이닉스, 삼성전자, 마이크론과 이미 LTA(Long-Term Agreement) 계약을 맺고 있습니다. LTA란 특정 기간 동안 일정 물량을 고정된 조건으로 공급받는 장기 공급 계약을 의미합니다. 한 번 LTA가 체결되면, 계약 기간 동안 물량은 사실상 잠겨 있습니다. 후발 주자가 아무리 좋은 제품을 들고 와도 파고들 여지 자체가 줄어드는 것입니다.
실적 측면에서도 이 구조는 확인됩니다. 샌디스크(Western Digital의 플래시 스토리지 브랜드)가 최근 LTA 기반의 안정적인 수주 흐름을 밝혔고, 이는 메모리 사이클에 대한 시장의 불안감을 일정 부분 해소했습니다. SK하이닉스 역시 외국인 수급이 꾸준히 유입되면서 장중 사상 최고가를 돌파하기도 했습니다. 수급이 먼저 움직이고 주가가 따라오는 이 흐름은, 공급망 선점의 가치가 이미 시장에 반영되고 있다는 신호로 읽힙니다.
메모리 패러다임 전환, 그런데 이것만 보면 위험하다.
솔직히 이 부분은 제가 가장 강조하고 싶은 내용입니다. HBM이 핵심 병목이라는 건 맞습니다. 그런데 이걸 "HBM 절대론"으로 해석하면 투자 판단이 왜곡될 수 있습니다.
제 경험상 이건 좀 다릅니다. 건설 현장에서 특정 자재가 병목일 때 그 자재 납품사에만 집중하다 보면, 갑자기 설계 변경으로 자재 자체가 필요 없어지는 상황을 만나기도 합니다. AI 시장도 유사한 리스크가 있습니다. 현재 메모리 패러다임의 한계를 인식한 기업들이 이미 대안 아키텍처를 연구하고 있습니다.
지금 HBM을 둘러싼 상황을 냉정하게 정리하면 이렇습니다.
- 현재 강점: SK하이닉스 중심의 HBM3E 공급 과점, 글로벌 빅테크와의 LTA 체결, 수율(양산 과정에서 정상 작동하는 제품의 비율) 격차
- 잠재 리스크: 삼성전자와 마이크론의 HBM4 개발 가속화, 중국 기업의 기술 추격, AI 수요 자체의 경기 민감성
- 구조적 변수: 인메모리 컴퓨팅(처리 장치와 메모리를 통합해 전송 병목을 없애는 차세대 아키텍처)이나 광 인터커넥트 기술이 상용화될 경우, HBM의 구조적 우위가 희석될 가능성
실제로 AI 반도체 시장의 전체 규모는 2030년까지 연평균 30% 이상 성장할 것으로 전망됩니다(출처: 한국반도체산업협회). 하지만 이 성장이 HBM 한 종목에 집중된다는 보장은 없습니다. GPU, 네트워크 인프라, 소프트웨어 스택이 함께 발전해야 전체 성능이 완성되기 때문입니다.
지금 시장이 보내는 신호와 투자자의 판단 기준
오늘(4월 14일) 코스피 시장을 보면, 외국인이 현물 약 9백억 원, 선물 1조 6천억 원가량을 순매수했습니다. 이런 흐름은 단순히 지수 반등이 아니라, 구체적인 섹터에 대한 베팅으로 읽어야 합니다. 외국인이 SK하이닉스를 집중 매수하면서 소부장(소재·부품·장비) 연관 종목들이 동반 상승하는 흐름이 나왔습니다. 이건 수급이 밸류에이션을 선반영하는 전형적인 패턴입니다.
여기서 PBR(주가순자산비율)을 짚고 넘어갈 필요가 있습니다. PBR이란 주가를 주당 순자산으로 나눈 값으로, 기업이 보유한 자산 대비 시장에서 얼마나 평가받고 있는지를 보여주는 지표입니다. 코스피가 5,800 포인트 수준일 때 PBR이 약 0.7~0.8배 수준에 머물렀다는 점은, 역사적으로 반복된 밸류에이션 하단부에 해당합니다. 삼성전자와 SK하이닉스의 영업이익 증가 폭이 가팔라지면서 이 PBR이 낮아지는 구조가 만들어진 것입니다.
코스닥 시장이 상대적으로 약한 이유도 같은 맥락에서 설명됩니다. 바이오나 2차전지는 실적 기반이 아닌 성장 내러티브로 움직이는 섹터입니다. 금리 인하 기조가 불분명한 지금 같은 환경에서는, 수익이 미래에 몰려 있는 성장주보다 지금 당장 이익을 내는 실적주로 기관과 외국인 자금이 쏠리는 것은 당연합니다. 국내 증시의 밸류에이션 지표와 외국인 수급 동향은 한국거래소에서도 확인할 수 있습니다(출처: 한국거래소).
정리하면 지금 시장에서 확인해야 할 핵심 체크포인트는 다음과 같습니다.
- HBM 공급 계약 동향과 LTA 갱신 여부
- 호르무즈 해협 통행량 회복과 유가 방향성
- 케빈 워시 연준 의장 예비 후보 청문회에서의 금리 스탠스
- SK하이닉스 실적 발표(4월 23일 예정) 전후 외국인 수급
방향성은 맞지만, 단일 변수만 보는 건 항상 위험합니다. 지금 HBM 중심의 메모리 패러다임은 분명히 실적으로 증명되고 있습니다. 다만 "이 흐름이 영원하다"는 전제는 경계해야 합니다. 공급이 확대되고 기술 대체가 현실화되는 시점이 오면, 지금의 확신이 가장 큰 리스크가 될 수 있습니다. 제가 현장에서 배운 가장 중요한 교훈은 딱 하나입니다. 지금의 병목이 내일도 병목이라는 보장은 없다는 것, 그래서 항상 구조 전체를 함께 봐야 한다는 것입니다.
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 투자 조언이 아닙니다. 투자 판단은 반드시 본인의 책임 하에 이루어져야 합니다.