[소셜밸류=이국열 기자] 인공지능(AI) 추론 시장이 빠르게 커지면서 메모리 계층 사이의 성능 격차와 데이터 이동이 새로운 병목으로 떠올랐다는 진단이 나왔다. 해법으로는 개별 메모리 성능을 높이는 데 그치지 않고 전체 메모리 계층을 최적화해야 한다는 주장이 제시됐다.
안현 SK하이닉스 개발총괄 사장(CDO)은 14일 한국반도체산업협회가 주최로 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 기조연설을 했다.
이 자리에서 안 사장은 고대역폭메모리(HBM) 경쟁력을 계속 높이는 한편 3D 적층(Stacked) D램과 HBF(High Bandwidth Flash) 같은 새로운 메모리 계층을 만들어 AI 인프라의 성능과 에너지 효율을 끌어올려야 한다고 강조했다.
 |
| ▲안현 SK하이닉스 개발총괄 사장이 14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 기조연설을 하고 있다./사진=SK하이닉스 제공 |
안 사장은 빅테크 기업들이 AI 수요가 공급을 앞설 것으로 보고 투자를 계속 늘리고 있다고 설명했다. AI 기술의 효율화가 비용 절감에서 끝나지 않고 AI 활용을 넓혀 새로운 수요를 만들어내고 있다는 분석이다.
그는 AI 추론 시장이 ‘작업 복잡도’, ‘컨텍스트 길이’, ‘추론 요청량’ 세 방향에서 동시에 성장하고 있다고 짚었다.
이 세 요인은 서로 더해지는 것이 아니라 곱해지는 관계여서 인프라 수요가 가파르게 늘고 있다는 것이다. 안 사장은 2030년 AI 인프라의 성능 규모가 2026년보다 약 20배 커질 것으로 내다봤다.
연산량과 함께 모델 가중치와 중간 데이터를 저장하고 옮겨야 하는 수요도 늘고 있다. 특히 AI가 앞서 처리한 토큰 정보를 저장해 다시 쓰는 KV 캐시는 컨텍스트가 길어질수록 더 많은 메모리 용량을 요구한다.
이 데이터를 HBM, D램, 솔리드스테이트드라이브(SSD) 등 여러 계층에 나눠 저장하다 보니 계층 간 데이터 이동이 늘고, 그 과정에서 성능과 전력 소모 문제가 생긴다는 설명이다.
안 사장은 과거의 ‘메모리 장벽(Memory Wall)’이 주로 연산기와 메모리 사이에서 생겼다면, 이제는 메모리 계층 간 격차와 데이터 이동 자체가 병목이 되고 있다고 진단했다.
안 사장은 앞으로 메모리 구조가 더 세분화하고 다양해질 것으로 전망했다. SRAM–HBM, HBM–DRAM, DRAM–SSD, SSD–네트워크 스토리지 사이에 새로운 계층이 추가돼 각기 다른 성능·용량 요구에 대응하는 구조로 발전한다는 것이다.
SK하이닉스는 먼저 HBM1부터 HBM4E까지 이어온 HBM 기술을 계속 고도화하고 있다. 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 직접 넣는 ‘커스텀 HBM’으로 기술 범위도 넓히고 있다. 메모리가 단순한 저장소를 넘어 고객의 AI 아키텍처에 맞춰 최적화되는 방향으로 진화한다는 의미다.
SRAM과 HBM 사이의 병목을 풀 기술로는 ‘3D Stacked D램’을 소개했다. 그래픽처리장치(GPU)·신경망처리장치(NPU) 같은 로직 반도체 위에 D램을 쌓아 연산기와 데이터 사이의 물리적 거리를 줄이는 구조다. 데이터를 연산기 가까이에서 빠르게 공급해 성능은 높이고 에너지 소모는 줄이는 것이 핵심이다.
HBM과 DRAM 사이에는 ‘HBF’를 새 계층으로 제시했다. HBF는 HBM에서 실리콘관통전극(TSV) 적층 기술과 고속 입출력 기술을 낸드플래시에 적용한 차세대 메모리다.
같은 세대 HBM과 비교해 대역폭은 절반 수준, 용량은 약 10배를 목표로 개발 중이다. 안 사장은 AI 추론이 대규모 데이터를 반복해서 읽는 작업이 많고 쓰기 작업은 적어 낸드 기반의 HBF에 잘 맞는다고 설명했다.
회사는 이밖에 컴퓨터익스플레스링크CXL), 스토리지 넥스트 등 차세대 메모리·스토리지 기술로 메모리 계층을 다양화해 AI 워크로드에 최적화된 구조를 구현할 계획이다.
SK하이닉스는 HBF를 선제적으로 표준화하고 글로벌 파트너와의 협력을 강화해 차세대 메모리 생태계의 기반을 마련할 방침이다.
안 사장은 AI 시대의 메모리 경쟁력이 개별 제품의 성능·용량을 넘어 다양한 계층을 유기적으로 연결하고 시스템 전체의 효율을 극대화하는 방향으로 발전할 것이라고 강조했다.
한편, SK하이닉스는 이번 전시회에서 행사장 내 최대 규모의 부스를 마련했다. ‘멈추지 않고 나아가는 AI 여정’을 주제로 전시 공간 전체를 육상 트랙 형태로 꾸몄다.
HBM·HBF 구조 모형과 HBM 개발 역사 전시물이 놓였고, 엔비디아 베라 루빈 슈퍼칩과 젠슨 황 CEO의 사인이 새겨진 HBM 웨이퍼를 전시해 양사의 파트너십을 강조했다.
서버용 D램으로는 업계 최대 용량의 ‘256GB 3DS RDIMM’, 고대역폭 ‘128GB MRDIMM’, 세계 최초로 10나노급 6세대(1c) 공정을 적용한 ‘64GB RDIMM’을 선보였다.
기업용 SSD로는 액체냉각을 지원하는 ‘PEB210’ 제품군과 회사 최초의 쿼터레벨셀(QLC) 기반 제품 ‘PS1101 E3.S’를 소개했다.
PC·모바일 분야에서는 LPDDR6, GDDR7 등 D램과 UFS5.0 등 낸드 설루션을 함께 전시했다.
[저작권자ⓒ 사회가치 공유 언론-소셜밸류. 무단전재-재배포 금지]
