차세대 고대역폭메모리(HBM) 경쟁에서 냉각 기술이 핵심 변수로 부상하고 있다. 고대역폭 메모리 성능 달성을 위한 20단 이상의 초고적층 구조를 목표로 하게 되면서 발열 요인이 급증, 전력 효율과 수율을 결정짓는 요인이 '열 제어'로 이동하는 흐름이다.

29일 업계에 따르면 차세대 고대역폭메모리(HBM)인 HBM5부터는 기존 공랭·액랭 방식을 넘어 침지냉각(immersion cooling)과 임베디드 쿨링(embedded cooling) 같은 고도화된 열관리 기술이 적용될 가능성이 높다. 시장조사업체 트렌드포스는 HBM5 이후 세대에서 20단 이상으로 늘어나는 적층수와 데이터 전송폭 확대로 인해 패키지 내부의 발열 밀도가 급격히 높아질 것으로 내다봤다. 이후 냉각 효율이 제품 성능과 수율을 결정짓는 핵심 요소로 부상해, 향후 세대에서는 패키징과 냉각 구조가 결합된 통합 설계가 새로운 표준으로 자리 잡을 것으로 전망했다.

HBM은 미세한 실리콘 관통전극(TSV)을 이용해 메모리 다이를 수직으로 적층하는 구조로, 층수가 늘어날수록 내부 열이 빠져나가기 어렵다. 차세대 HBM에서는 성능 확보를 위해 적층량이 20단 이상으로 높아지면서 각 층 사이의 열전달 경로가 길어지고 본딩 공정의 열전달 관리가 더욱 중요해진다. 전력 소모 역시 칩당 수십 와트 수준에 이르기 때문에 AI 연산용 GPU와 결합될 경우 전체 모듈의 발열 밀도는 기존 세대보다 현저히 증가할 것으로 추정된다. 차세대 HBM에서 기존의 서버 단위 공랭·액랭으로는 한계에 도달할 것이라는 지적이 나오는 이유다.

이 같은 문제를 해결하기 위해 도입이 추진되는 방식이 침지냉각과 임베디드 쿨링이다. 침지냉각은 GPU·HBM 모듈을 통째로 냉각액 속에 담그는 '침지형 데이터센터'와 같은 방식을 통해 냉각액을 직접 서버 보드 전체에 순환시켜 열을 흡수·분산시키는 냉각법으로 공랭 대비 열전달 효율이 수 배 이상 높다. 임베디드 쿨링은 서버가 아닌 반도체 패키지 내부에 미세 유로(流路)나 열전도층을 삽입해 발열 지점을 근본적으로 제어하는 기술이다. 패키징 공정과 냉각 구조를 동시에 설계해야 하기 때문에 제조 난도가 높지만 냉각 효율이 높아 차세대 HBM의 필수 기술로 꼽힌다.

한편 국내에서는 삼성전자와 SK하이닉스가 공통적으로 HBM의 발열 해소를 핵심 기술 과제로 삼고 있다. 삼성전자는 AI 메모리 전략 발표에서 '열 관리(Thermal control)'를 차세대 제품의 주요 요구사항으로 제시하며 HBM4·HBM4E 단계부터 고열전도 소재 연구와 열전도 경로 개선을 병행하고 있다. SK하이닉스는 패키징 내 열 확산 관리와 수율 향상을 위해 어드밴스드 MR-MUF와 하이브리드 본딩 기술을 결합하는 등 공정 최적화를 진행 중이다.

해외 기업들도 본격적인 대응에 나섰다. TSMC는 이달 미국 텍사스주에서 열린 'IEEE ECTC 2025(국제전자부품기술학회)'에서 '다이렉트 투 실리콘 리퀴드 쿨링'을 공개했다. 해당 냉각 방식은 플랫폼 위 실리콘에 마이크로 유로를 직접 새겨 냉각액을 순환시키는 형태로, 열전달 저항을 기존 대비 약 15% 개선했다. 기존 열전달재(TIM)를 제거해 냉각 경로를 최소화하면서도 더 높은 전력을 견딜 수 있는 고밀도 AI 칩·HBM 결합 모듈이 가능해졌다는 설명이다. TSMC는 이 기술을 차세대 CoWoS-R·L 공정에 통합해 HBM4·HBM5 패키징에 적용할 계획으로 알려졌다.

TSMC 케빈 장 부사장은 당시 "이번 '다이렉트 투 실리콘 리퀴드 쿨링' 기술은 HBM 패키징이 직면한 '열의 벽(thermal wall)'을 돌파한 성과로, AI 고성능 연산 시대의 새로운 전환점이 될 것"이라고 밝히기도 했다.