HBM이 끝이 아니라고? AI 서버의 숨겨진 한계, CXL이 해결사로 등판!

안녕하세요! 기술과 경제의 핵심만 짚어 드리는 시그널피커(Signal Picker) 입니다. 모두가 AI 반도체 하면 HBM을 떠올리는 지금, 정작 데이터센터 현장에서는 다른 고민이 깊어지고 있습니다. "최고 사양 GPU를 넣었는데, 왜 전체 서버는 여전히 버벅거릴까?" 바로 이 질문이 오늘 이야기의 시작점입니다.

---

AI의 폭발적인 연산 속도를 감당하기 위해 HBM이라는 초고속 메모리가 등장했지만, 이는 경주용 자동차에 제트 엔진을 다는 것과 같았습니다. 엔진(GPU)은 빨라졌지만, 자동차에 실을 수 있는 짐(메모리 용량)은 한정되어 있고, 도로(서버 전체 구조)는 여전히 좁은 '메모리 병목 현상'에 부딪힌 것이죠.

이 거대한 '메모리 벽'을 허물기 위해 등장한 차세대 기술, CXL(Compute Express Link). HBM의 뒤를 잇는 단순한 후속 기술이 아닙니다. AI 시대의 데이터 처리 방식을 근본적으로 바꾸는 '게임 체인저', CXL의 모든 것을 지금부터 알기 쉽게 파헤쳐 드립니다.

1. 그래서 CXL이 뭔가요? '메모리 공유 경제'의 시작

CXL을 가장 쉽게 표현하면 '서버 내 메모리 전용 카풀 및 공유 주차장 시스템' 입니다. 기존에는 CPU, GPU 등 각각의 장치들이 자신만의 전용 메모리(DRAM)를 가지고 있었습니다. 내 차에 좌석이 남아도 다른 사람을 태워주지 않고, 내 주차 공간이 텅 비어도 남이 주차할 수 없는 비효율적인 구조였죠.

CXL

CXL은 PCIe라는 표준화된 통로를 통해 이 칸막이를 허물어 버립니다. 여러 장치가 하나의 거대한 '공유 메모리 풀(Pool)'에 함께 접속해, 필요할 때마다 필요한 만큼 메모리를 빌려 쓰고 반납하는 '공유 경제'를 구현하는 것입니다. GPU가 AI 학습으로 메모리를 다 쓰고 있을 때, 잠시 쉬고 있는 CPU의 메모리를 빌려와 추가 작업을 할 수 있게 되는 식입니다. 이는 단순히 메모리 용량을 늘리는 것을 넘어, 서버 전체의 자원 활용률을 극대화하고 낭비되는 비용을 획기적으로 줄이는 새로운 패러다임입니다.

2. HBM vs CXL: '페라리'와 '대중교통 시스템'의 차이 (2025년 기준 심층 분석)

가장 많이 오해하는 부분이 "HBM 다음은 CXL"이라는 대체 관계입니다. 2025년 현재, 두 기술은 각자의 영역에서 AI 서버 성능을 끌어올리는 완벽한 파트너로 자리 잡고 있습니다.

• HBM (고대역폭 메모리): GPU 전용 '페라리'
  HBM은 오직 하나의 주인, 즉 GPU만을 위해 존재하는 초고속 전용 메모리입니다. GPU 바로 옆에 수직으로 쌓아 올려, 데이터 지연 시간을 거의 제로에 가깝게 만들었죠. AI 연산처럼 엄청난 속도가 생명인 작업에 필수적입니다. 하지만 페라리가 그렇듯, 가격이 매우 비싸고 많은 짐(대용량 데이터)을 싣기에는 한계가 명확합니다.
• CXL (컴퓨트 익스프레스 링크): 서버 전체를 위한 '최첨단 대중교통 시스템'
  반면 CXL은 특정 장치에 종속되지 않습니다. 잘 설계된 지하철, 버스 환승 시스템처럼 CPU, GPU, 기타 가속기 등 서버 내 모든 장치가 함께 사용하는 '공용 인프라'입니다. HBM만큼 순간 속도가 빠르진 않지만(지연 시간 발생), 서버 전체의 메모리 용량을 테라바이트(TB) 단위까지 자유롭게 확장하고, 유휴 자원 없이 효율적으로 배분하여 도시 전체의 교통 흐름(데이터 처리량)을 원활하게 만듭니다.

결론적으로 2025년 최첨단 AI 서버는 HBM으로 연산 속도를 극한으로 끌어올리고, CXL로 그 속도를 감당할 수 있는 거대한 메모리 공간과 효율성을 확보하는 방식으로 진화하고 있습니다.

3. CXL의 진화: 레고 블록처럼 서버를 조립하는 미래 (CXL 2.0 & 3.0)

CXL은 이미 여러 단계를 거쳐 빠르게 발전하고 있으며, 이 차이를 이해하면 미래 데이터센터의 모습을 엿볼 수 있습니다.

• CXL 1.1 (메모리 확장): 가장 초기 단계로, CPU에 메모리 확장 슬롯을 하나 더 만들어주는 수준이었습니다. 1:1 연결로 단순히 용량만 늘리는 데 그쳤죠.
• CXL 2.0 (메모리 풀링): 2025년 현재 상용화의 원년이라 불리는 핵심 기술입니다. '스위치'라는 장치가 등장하면서 여러 장치가 하나의 거대한 메모리 저장소(풀)에 연결되어 자원을 나눠 쓰는 '풀링'이 가능해졌습니다. 삼성전자가 CXL 2.0 D램 양산을 시작하며 시장을 주도하고 있으며, 데이터센터의 총소유비용(TCO)을 획기적으로 낮출 기술로 주목받고 있습니다.
• CXL 3.0 (메모리 공유 및 패브릭): CXL의 궁극적인 목표입니다. 이제는 메모리를 빌려 쓰는 수준을 넘어, 여러 장치가 동시에 한 메모리 영역에 접근해 데이터를 '공유'할 수 있게 됩니다. 이는 마치 레고 블록처럼 필요에 따라 CPU, GPU, 메모리를 자유자재로 조합해 맞춤형 서버를 실시간으로 구성하는 '구성 가능 인프라(Composable Infrastructure)' 시대를 여는 핵심 기술입니다. 2026년 이후 본격적인 기술 경쟁이 예고되어 있습니다.

4. 누가 CXL 시장을 지배할까? 삼성전자, SK하이닉스 그리고 숨은 강자들

CXL

CXL 생태계는 HBM보다 훨씬 더 광범위합니다. 메모리 제조사뿐만 아니라 다양한 기업들이 얽혀 새로운 기회를 만들고 있습니다.

• 메모리 반도체: 삼성전자는 CXL 2.0 D램 양산과 함께 소프트웨어 솔루션(SCMC)까지 선보이며 생태계 확장에 가장 적극적입니다. SK하이닉스 역시 CXL 메모리에 연산 기능을 더한 CMS(Computational Memory Solution) 같은 차별화된 제품으로 시장을 공략하고 있습니다.
• CPU 기업: CXL 기술의 '문'을 열어주는 핵심 플레이어입니다. 인텔(사파이어 래피즈, 그래나이트 래피즈)과 AMD(제노아, 튜린)가 자사의 최신 서버용 CPU에 CXL을 탑재하면서 본격적인 CXL 시대가 열렸습니다.
• 소부장(소재·부품·장비) 기업: CXL 생태계의 숨은 수혜주들입니다. CXL 메모리를 테스트하는 장비 업체(네오셈, 엑시콘), CXL 스위치나 컨트롤러를 설계하는 팹리스(파두 등), 관련 기판(PCB)을 만드는 기업(코리아써키트 등)의 중요성이 날로 커지고 있습니다.

결론: HBM을 넘어, 새로운 메모리 혁명의 신호를 포착하라

AI 시대의 '메모리 벽'이라는 명확한 문제를 해결하기 위해 등장한 CXL 기술. 이는 단순한 부품의 등장이 아니라, 지난 수십 년간 이어져 온 서버 아키텍처의 근본적인 변화를 예고하는 거대한 신호입니다.

HBM이 이끈 반도체 시장의 뜨거운 열기가 이제 CXL로 옮겨붙고 있습니다. 이 거대한 흐름 속에서 어떤 기업이 새로운 주도권을 잡고, 어떤 숨겨진 기회가 나타날까요?

CXL 기술의 더 깊이 있는 시장 전망과, 지금 주목해야 할 핵심 관련주에 대한 상세한 분석이 궁금하시다면, 아래 링크의 원문에서 확인해 보세요!

▶ 지금 바로 [CXL, 차세대 기술의 모든 것] 원문 전체 내용과 투자 인사이트 확인하기 (링크)