삼성전자의 반도체 사업 담당 디바이스솔루션(DS) 부문을 이끄는 경계현 부문장(사장)이 29일 "전담팀의 노력으로 고대역폭메모리(HBM)의 리더십이 우리에게로 오고 있다"고 말했다. 인공지능(AI) 반도체용 고성능 메모리 시장의 주도권을 삼성전자가 다시 쥘 수 있다는 자신감을 내비친 셈이다.
경 부문장은 이날 자신의 사회관계망서비스(SNS)에 미국 출장에서 고객을 만난 소회를 담은 글을 올렸다.
경 부문장은 "AI 애플리케이션에서 고용량 HBM은 경쟁력"이라며 "HBM3와 HBM3E 12H(12단)를 고객이 더 찾는 이유"라고 말했다. 이어 "여전히 메모리와 컴퓨트 사이의 트래픽이 병목"이라며 "많은 고객이 이 문제를 풀기 위해 각자만의 방식으로 커스텀 HBM4를 개발하고 싶어 한다. 그리고 고객들은 우리와 함께 그 일을 할 것"이라고 자신했다.
경 부문장은 "로직 파워를 줄이고 성능을 높여야 다양한 응용에서 AI의 지능을 키울 수 있다"며 "고객들이 게이트올어라운드(GAA·Gate All Around) 2나노를 원하는 이유"라고 설명했다. 그는 이어 "많은 고객이 파운드리 2나노 공정을 위한 테스트 칩을 흘리고 있거나 흘리기로 했다"며 "성공적 기술 개발을 통해 이들이 2나노 제품 개발로 이어지도록 할 것"이라고 말했다.
HBM은 D램 여러 개를 수직으로 연결해 데이터 처리 속도를 혁신적으로 끌어올린 AI 반도체의 핵심 부품이다. SK하이닉스가 2013년 세계 최초로 개발했다. 삼성전자는 2016년 1월 HBM2(2세대)를 세계 최초로 양산하며 SK하이닉스(2017년)와 시장 선점 경쟁을 시작했다. 그러나 SK하이닉스가 2020년 7월 HBM2E(3세대), 2022년 6월 HBM3(4세대)를 차례로 먼저 양산해 앞서가는 중이다. 삼성전자도 현재 엔비디아에 HBM3E를 납품하기 위한 품질 검증 절차를 밟고 있다.
경 부문장은 20일 주주총회를 통해 공개한 자체 AI 가속기 '마하-1'도 재차 언급했다. 경 부문장은 "추론 전용인 마하-1에 대한 고객의 관심 또한 증가하고 있다"며 "일부 고객은 1T 파라미터 이상의 큰 애플리케이션에 마하를 쓰고 싶어 한다"고 말했다. 그러면서 그는 "생각보다 더 빠르게 마하-2의 개발이 필요한 이유가 생긴 것"이라며 "준비를 해야겠다"고 덧붙였다.
삼성전자는 AI 가속기(AI 학습·추론에 특화한 반도체 패키지)인 마하 1을 개발 중이다. AI 가속기를 구성하는 그래픽처리장치(GPU)와 HBM은 대량의 데이터를 주고받으며 AI를 고도화한다. 하지만 마하 1은 데이터 병목 현상을 줄일 수 있다. 이렇게 되면 AI 가속기에 HBM 대신 저전력 D램을 붙일 수 있어서 HBM을 대체할 '게임체인저'가 될지 관심을 받고 있다.