8단 제품 납품 6개월 만에 신제품

용량 50% 늘고 처리 속도 빨라져
연내 ‘큰 손’ 엔비디아에 공급 전망
삼성 제품도 엔비디아 테스트 중

고대역폭메모리(HBM) 시장 1위인 SK하이닉스가 5세대 ‘HBM3E 12단’ 제품 양산에 들어갔다. 인공지능(AI) 반도체 시장의 ‘큰손’인 엔비디아에는 연내 공급될 것으로 보인다. 메모리 업체 중 가장 먼저 12단 양산에 돌입하며 삼성전자·미국 마이크론과의 격차를 더 벌렸다.

SK하이닉스는 36GB(기가바이트) 용량의 HBM3E 12단 신제품을 세계 최초로 양산하기 시작했다고 26일 밝혔다.

HBM은 여러 개의 D램을 수직으로 쌓아 기존 D램보다 데이터 처리 속도를 크게 끌어올린 고성능 메모리다. HBM3E는 4세대 HBM3의 ‘확장 버전’으로 5세대에 속한다.



SK하이닉스는 지난 3월 HBM3E 8단 제품을 업계 최초로 엔비디아에 납품한 지 6개월 만에 12단 양산에 나서면서 또 한번 주도권을 쥐게 됐다.

앞서 김주선 SK하이닉스 AI 인프라 담당 사장은 이달 초 대만 반도체 전시회 ‘세미콘 타이완’ 기조연설에서 “이달 말부터 HBM3E 12단 제품 양산에 돌입할 계획”이라고 밝혔다. 고객사의 인증 작업(퀄 테스트)을 거쳐야 공급할 수 있는 구조인데 메모리 업체가 양산 일정을 미리 못박았다는 건 그만큼 자신감이 있다는 뜻이자 고객사와의 신뢰 관계가 두텁다는 의미로 해석됐다.

SK하이닉스는 이날 “양산 제품을 연내 고객사에 공급할 예정”이라고 했다. 회사 측은 신제품이 AI 메모리에 필요한 속도, 용량, 안전성 등 모든 부문을 충족시켰다고 밝혔다. 이 제품 4개를 탑재한 그래픽처리장치(GPU)로 메타의 대규모언어모델(LLM) ‘라마3 70B’를 구동할 경우 700억개의 전체 파라미터(매개변수)를 초당 35번 읽어 낼 수 있을 정도로 속도(9.6Gbps)가 빨라졌다고 회사는 밝혔다.

기존 8단 제품(24GB)과 비교하면 두께는 동일한데 용량이 50% 늘어났다. D램 칩을 기존보다 40% 얇게 만들면서다. 얇아진 칩을 더 높이 쌓을 때 생기는 구조적 문제는 공정기술(어드밴스드 MR-MUF)을 통해 해결하면서 방열 성능과 안전성을 높였다.

엔비디아가 후속 제품에 HBM3E 12단 제품을 대거 채택할 것으로 알려지면서 내년부터 12단 비중도 크게 늘어날 전망이다. 삼성전자와 마이크론도 각각 HBM3E 12단 제품에 대한 엔비디아의 퀄 테스트를 진행 중인 것으로 알려졌다. 삼성전자는 지난 2분기 실적 콘퍼런스콜에서 “12단 제품을 하반기에 공급할 예정”이라고 했다.