HBM3e: 고대역폭을 넘어 연산 밀도의 한계로

AI 연산의 폭주로 인해 HBM(High Bandwidth Memory)의 수요가 폭발하고 있습니다. 특히 최신 표준인 HBM3e는 초당 1.2TB 이상의 데이터를 처리해야 하며, 이는 엄청난 열 발생 문제를 동반합니다.

1. 수직 적층 기술 (TSV)

D램 칩을 8단, 12단, 나아가 16단까지 쌓기 위해서는 웨이퍼 관통 전극(TSV) 기술의 정밀도가 필수적입니다. - 어드밴스드 MR-MUF: 칩 사이를 흐르는 액체 봉지재(Liquid Molding Compound)를 사용하여 방열 성능을 기존 대비 개선합니다. - 하이브리드 본딩: 차세대 HBM에서는 범프를 없애고 구리끼리 직접 연결하여 두께를 줄이고 열 저항을 낮추는 방식이 고려됩니다.

2. 열 방산(Thermal Dissipation) 극복

  • 메모리가 로직 유닛(GPU/NPU)과 2.5D 패키지(CoWoS 등) 상에서 매우 밀접하게 배치되기 때문에 시스템 전체의 열 지도가 매우 복잡해집니다.
  • 본딩 레이어의 두께 편차를 줄여 열 전달 효율을 균일하게 유지하는 것이 수율의 핵심입니다.