AI 시대가 도래하며 고성능 AI 칩이 요구되는 가운데, 반도체 공정에서 3D 적층 기술의 중요성은 날로 커지고 있다.
 
'챗GPT'와 같은 초거대 AI는 거대 언어 모델(LLM)을 학습 및 추론을 위해 고성능 AI 반도체를 필요로 한다. 뿐만 아니라 메모리 반도체의 역할도 중요해졌다. 메모리는 대용량의 데이터를 큰 대역폭으로 빠르게 GPU에 전달해야 한다. 이를 위해 등장한 ‘HBM(High Bandwidth Memory)’은 여러 개의 D램을 TSV(실리콘 관통 전극) 기법으로 수직 연결한 고대역폭 메모리로, 처리 속도를 혁신적으로 끌어올렸다.

HBM은 GDDR 대비 상대적으로 제조 과정이 복잡하고 비용이 높지만, 에너지 효율이 좋아 높은 대역폭을 제공한다. 이때 HBM은 CPU 및 GPU와 함께 패키징 되며, GPU와 큰 대역폭으로 연결하고자 실리콘 인터포저를 이용해 붙인다.

■ 삼성전자·SK하이닉스·마이크론, HBM 삼파전

HBM 시장은 삼성전자와 SK하이닉스가 양대 산맥을 차지하고 있으며, 마이크론이 이를 뒤쫓고 있다. 트렌드포스에 따르면 지난해 글로벌 HBM 시장 점유율은 SK하이닉스가 50%, 삼성전자(40%), 마이크론(10%)으로 나타났다.
 
SK하이닉스는 2021년 4세대 제품 HBM3를 개발, 2022년부터 양산을 시작했다. 올해 4월 세계 최초 24GB 12단 HBM3를 개발하기도 했다. 5세대 HBM3e는 HBM3의 확장 버전으로, 초당 최대 1.15TB 이상의 데이터를 처리할 수 있다. SK하이닉스는 지난 8월 중순 엔비디아에 샘플을 제공했으며, 기존 일정을 앞당겨 내년 상반기 양산이 시작될 예정이다.
 
삼성전자는 SK하이닉스에 조금씩 뒤처졌다. 2020년 3세대 HBM2e ‘플래시볼트’에 이어 4세대 HBM3, 5세대 HBM3e 제품도 늦어졌다. 지난 10월 미국에서 열린 삼성 메모리 테크 데이에서 HBM3e ‘샤인볼트’를 공개했다. 샤인볼트는 초당 최대 1.2TB 이상의 데이터를 처리한다. 삼성전자는 엔비디아에 HBM3 24GB 샘플을 제공해 올해 12월까지 검증을 완료할 것으로 예상된다.
 
트렌드포스에 따르면 엔비디아는 이르면 2023년 말 또는 2024년 1분기까지 공급업체를 확정할 것으로 예상된다. 엔비디아는 “강력하고 효율적인 공급망 관리를 위해 HBM 공급업체를 다양화할 계획”이라고 밝혔다.
해당 HBM3e는 엔비디아의 HBM3e 칩 6개를 사용하는 H200과 HBM3e 8개를 사용하는 B100 제품에 탑재된다. 엔비디아는 A100/A800 및 H100/H800 모델에서 고급 AI 라인업을 확대하고 있다. 지난 11월 중순 엔비디아는 H200과 HGX200을 출시했다. 이는 H100 대비 700억개 파라미터를 보유한 ‘라마2(Llama 2)’에서 2배 높은 추론 성능을 제공한다. 또한 엔비디아는 자체 Arm 기반 CPU 및 GPU를 통합해 GH200과 GB200을 출시할 예정이라고 덧붙였다.
 
반면 경쟁사인 AMD는 2024년 HBM3을 갖춘 MI300에 초점을 맞춘다. MI350을 위한 HBM3e 검증은 2024년 하반기에 시작해 2025년 1분기 양산 예정이다. 인텔 하바나는 HBM2e 6개가 탑재된 가우디 2를 2022년 2분기에 출시했고, 2024년 중반 예정되는 가우디 3에는 8스택으로 업그레이드한다.
 
SK하이닉스를 필두로 삼성전자, 마이크론의 HBM 경쟁이 치열한 가운데, 내년 SK하이닉스와 삼성전자의 점유율은 비슷해질 것으로 전망된다.
 
■ 2026년 HBM4 출시 전망…새로운 3D 기술 적용
 
2026년 엔비디아 및 아마존, 구글, MS 등과 같은 클라우드 서비스 제공사(Cloud Service Provider, CSP)의 수요에 맞춰 출시될 HBM4는 지금의 반도체와는 다른 방식이 도입된다.

이는 로직 반도체(GPU)에 메모리 반도체(HBM)를 적층하는 방식이다. 즉 SoC(System on Chip)에 메모리를 인접하게 두는 구조에서 SoC 위에 HBM을 3D로 집적하는 접근 방식이 활용될 것으로 전망된다.

HBM4는 12나노(nm) 공정으로 제조되며, 현재 12층 스택에서 16층 스택으로 확장되고, 새로운 하이브리드 본딩 기술 수요가 촉발될 것으로 기대된다.
 
기존에 메모리를 프로세서 위에 적층하는 것은 어렵지 않으나, 이미 3D로 쌓은 HBM을 다시 GPU 위에 올리는 방식은 도전 과제다. SK하이닉스는 “3D 적층으로 칩렛을 구성하고, 3차원으로 칩(3D SoC)을 만들 수 있다면 반도체 집적 공정의 기존 틀을 바꿔 놓은 혁명이 될 것”이라고 말했다.
 
트렌드포스는 “상용 D램의 표준화된 접근 방식과 달리 맞춤화를 향한 이러한 움직임은 독특한 디자인과 가격 책정 전략을 가져올 것으로 예상되며, 이는 전통적인 방식에서 HBM 기술의 전문 생산 시대를 예고한다”고 말했다.
 
■ ‘맞춤형 메모리’…첨단 패키징 중요성 지속 극대화
 
파운드리 업체의 경쟁력인 패키징 기술은 날로 중요해지고 있다. 파운드리는 선단 노드를 통해 수율을 높여 팹리스에 전달하는 것이 주요 경쟁력이었다면, 이제 단순히 칩을 만드는 데 그치지 않고 제품에 맞는 패키징을 제공하는 역할이 강조된다.
 
HBM은 메모리 반도체 수요에 따라 적자와 흑자 폭이 커질 수밖에 없던 과거 양산 방식과 달리 ‘맞춤형 메모리’로 입지를 넓혀가고 있다. 삼성전자, SK하이닉스는 고객 맞춤형으로 고객과 긴밀한 협업을 바탕으로 기술 수준 및 방식, 수량을 정해 수주한다.
 
SK하이닉스 곽노정 대표이사는 지난 창립 40주년 특별대담에서 “2024년 양산 예정인 HBM3E 이후로는 기초 단계부터 AI 고객사와의 긴밀한 협업이 필요하다”며, “고객사와 스펙을 결정하며, 설계 및 생산 방식과 마케팅 등 산업 전반에 걸쳐 변화될 것”이라고 말했다.

맞춤형 메모리화의 중심에 있는 이종집적 패키징 기술과 3D 적층 기술의 발전이 반도체 업계의 판도를 변화할 것으로 전망된다.