내년에도 HBM이 대세…'먼저·더 많이' 내놓는 곳 돈 방석

내년 AI 서버 투자 지속…HBM3E 12단·HBM4 주류 등극

삼성·SK, 내년 하반기 HBM4 양산 놓고 개발 총력

HBM 차별화 가를 패키징 기술 승부수 관심

SK하이닉스 곽노정 대표이사 사장이 4일 서울 삼성동 코엑스에서 열린 ‘SK AI 서밋 2024’에서 ‘차세대 AI 메모리의 새로운 여정, 하드웨어를 넘어 일상으로’를 주제로 기조연설을 진행하고 있다.ⓒSK하이닉스

내년에도 빅테크를 중심으로 AI(인공지능) 투자가 지속될 것으로 예상되면서 HBM(고대역폭메모리) 제조사들도 덩달아 바빠질 전망이다. AI칩 선두주자인 엔비디아는 올해 말부터 블랙웰(Blackwell) 양산을 본격화한 데 이어 후속 모델인 루빈(Rubin)도 2026년 출시를 계획하고 있다.

이들 AI 가속기에는 HBM3E, HBM4가 각각 탑재된다. 엔비디아 로드맵과 보조를 맞춰 차세대 HBM을 더 빨리, 더 많이 출하하는 곳이 메모리 실적 우위를 이어갈 전망으로, SK 지배력이 유지될지 아니면 삼성이 반전 계기를 마련할지 관심이다.

12일 업계에 따르면 내년에도 스마트폰, PC, 서버 시장은 AI 기능을 앞세운 제품들이 주류를 이룰 전망이다. 사용자 경험 차별화를 어필하기 위해서는 AI 기능 향상이 필수적인 만큼 해당 제품에 고성능·고용량 칩이 탑재되는 것은 당연한 수순이다. 이는 고부가 D램 수요를 예고하는 것으로, 메모리 제조사들의 성장세도 이어질 전망이다.

이중에서도 AI 서버 투자가 강세를 이어갈 것이라는 관측이 지배적이다. NH투자증권은 "내년 블랙웰 출시와 함께 AI 투자는 확대될 것으로 예상되며 일반 서버 또한 인텔/AMD 신제품 출시 효과, 추론 수요 증가에 따른 투자 확대, 내용 연수 연장 한계에 따른 신규 투자 필요 등에 힘입어 완만한 회복세를 유지할 것"이라고 말했다.

신한투자증권은 내년 서버 출하량은 AI·일반 서버 동반 강세로 올해 보다 6% 증가할 것으로 내다봤다. SK하이닉스도 내년 전체 서버 시장 성장세가 한자릿수 중후반으로, 모바일·PC(한자릿수 초중반)를 상회할 것으로 예상했다.

이는 엔비디아의 AI 가속기 공급 증가와 무관치 않다. 지난달부터 엔비디아는 마이크로소프트, 오픈AI 등 빅테크를 중심으로 블랙웰을 공급하고 있다. 엔비디아의 블랙웰 기반 B100·B200에는 HBM3E 8단 8개가 탑재되며, 경량화 버전인 B200A에는 12단 HBM3E 4개가 적용된다. 블랙웰 울트라에는 HBM3E 12단 8개가 투입된다.

엔비디아향 HBM 공급 수혜를 가장 많이 누리고 있는 SK하이닉스는 36GB(기가바이트)를 구현한 HBM3E 12단을 9월 말부터 양산중이다. 지난 3월에는 HBM3E 8단을 엔비디아에 공급했다.

삼성전자도 HBM3E 8단과 12단을 양산중이나, 엔비디아향 공급은 연말께 이뤄질 것으로 보고 있다. 회사 측은 "퀄 과정상 중요한 단계를 완료하는 등 유의미한 진전이 있었다"면서 "4분기 HBM3E 매출 비중은 50%를 예상한다"고 말했다.

이에 질세라 마이크론도 지난 9월 36GB HBM3E 12단을 내놓으며 HBM 개발 경쟁을 가열시키고 있다.

현재까지 메모리 3사의 성적을 미루어보면 SK하이닉스가 우세승을 거두고 있는 것으로 평가받는다. 다만 HBM 중심축이 올해 HBM3E 8단에서 내년 HBM3E 12단, HBM4로 이동할 것으로 예상되면서 시장 판도를 뒤집기 위한 추격자의 공세는 더욱 거세질 것으로 보인다.

예를 들어 삼성전자가 엔비디아에 HBM3E 12단 공급 물량을 늘리고 HBM4에서도 가장 먼저 개발-양산에 돌입한다면 HBM 경쟁 구도가 달라진다. HBM 성장세가 지속되는 상황에서는 먼저, 더 많이 HBM을 공급하는 쪽이 유리하다. 엔비디아 루빈에는 HBM4 8개가, 루빈 울트라에는 HBM4 12개가 탑재된다.

그동안 엔비디아에 가장 많은 HBM을 공급해온 SK하이닉스로서는 위기이고 경쟁사들에게는 반전 기회가 될 수 있는 상황이다.

다만 SK하이닉스의 방어전이 만만치 않다. 곽노정 사장은 최근 최대 용량인 48GB가 구현된 16단 HBM3E을 개발중이라고 밝혀, 다시 한 번 기술 격차를 이어가겠다는 의지를 드러냈다.

삼성전자 HBM 기술 개발 현황ⓒ삼성전자 반도체 뉴스룸

3사의 각축전이 한층 치열해진 가운데 얼마나 탄탄한 수율(양품 비율)을 갖췄는지가 HBM 주도권 향배를 가를 것으로 예상된다.

수율을 좌우하는 건 디테일이다. D램 칩을 쌓는 과정에서 밑으로 압력이 가해지면 웨이퍼 휨(Warpage) 현상이 생기는 데, 이를 극복하면서 D램 칩을 안정적으로 쌓는 기술이 필요하다. 이 적층 방식은 MR-MUF(매스리플로우-몰디드언더필), TC-NCF(열압착-비전도성 접착 필름) 등으로 나뉜다.

MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정이며 TC-NCF 공정은 D램을 적층하는 사이 공간에 NCF라는 특수 필름을 넣고 열과 압력을 가해 부착하는 기술이다.

현재 SK하이닉스가 전자를, 삼성전자가 후자의 방식을 택하고 있다. SK하이닉스는 3분기 실적 컨퍼런스콜에서 "1bnm(나노미터)와 어드밴스드(Advanced) MR-MUF 기술을 적용한 HBM4 제품을 내년 하반기 출하하겠다"고 했다. 2026년 출시될 엔비디아 루빈을 정조준한 HBM인 셈이다.

삼성은 판도 변화를 위해 HBM4부터는 TC NCF 대신 범프 없이 칩과 칩을 접착하고, 데이터 통로를 곧바로 연결하는 하이브리드 본딩(Hybrid bonding) 방식을 택할 것이라는 전망이 나온다. 하이브리드 본딩을 적용하면 공간이 더 확보되며 열 저항 효율도 개선된다. 다만 기술 난도가 높아 HBM4부터 적용할 수 있을지는 미지수다.

삼성전자는 SK하이닉스처럼 내년 하반기 HBM4 양산을 목표로 하고 있다.

뿐만 아니라 삼성은 또한 커스텀(Custom) HBM 관련, 베이스 다이 제조와 관련된 파운드리 파트너 선정에서 내외부를 가리지 않겠다고 밝혀 유연한 대응을 시사했다.

커스텀 HBM은 용량과 대역폭, 부가 기능 등 고객의 다양한 요구를 반영해 성능을 최적화한 제품을 말 하는 것으로, 고객이 원한다면 삼성 파운드리 대신 TSMC 패키징 기술을 활용하겠다는 설명이다. TSMC의 CoWoS 패키징 기술을 활용하게 되면 삼성의 HBM4 성능도 올라가게 돼 잠재 고객군에게 한층 어필할 수 있을 것으로 보인다.

SK하이닉스가 세계 최초로 양산하기 시작한 HBM3E 12단 신제품ⓒSK하이닉스

SK하이닉스는 엔비디아-TSMC과의 3각 협업이 더욱 고도화될 것이라고 강조하고 있다. 커스텀 HBM부터는 고객 IP&시스템 디자인, 로직 파운드리&후공정(OSAT) 기술 협력이 더욱 활발해질 것이라는 기대다.

앞서 박문필 SK하이닉스 HBM PE 담당(부사장)은 지난 5일 열린 'SK 서밋 2024'에서 "고객의 IP가 들어옴으로써, 원래 HBM 하면서 쌓여있는 IP나 노하우는 SK하이닉스에 집어넣고 고객은 고객이 원하거나 자사에 유리한 IP를 탑재해 고객사마다 가장 최적화된 메모리를 만들어가는 사업이 될 것"이라고 말했다.

한편 시장조사기관 트렌드포스에 따르면 D램 내 HBM 생산 점유율은 2023년 2%, 올해 5%, 2025년 10% 이상 증가할 전망이다. 금액 기준으로는 D램 내에서 올해 20%를 넘어서고 내년에는 30% 이상으로 확대된다.