텐스토렌트, 테슬라 등 AI 칩에 HBM 활용 검토 안해
대체품으로 GDDR7 지목···가격, 열 특성 등에서 유리
엔비디아는 중국 전용 칩 제외하곤 HBM 사용 유지
[시사저널e=고명훈 기자] 인공지능(AI) 반도체 기업들 사이에서 ‘탈 고대역폭메모리(HBM)’를 도전하는 움직임이 일고 있다.
HBM은 AI 반도체 시장을 독점 중인 엔비디아의 그래픽처리장치(GPU) 기반 AI 가속기에 탑재돼 높은 시장 성장세를 이어가고 있는 대표적인 AI 메모리다. 반도체업계에선 막대한 데이터 처리를 위한 AI 산업에서 HBM의 중요성이 더욱 커지고 있지만, 세대를 거듭할수록 높은 가격 때문에 부담이 되는 상황이다.
2일 반도체업계에 따르면 AI 산업에서 기존 학습 중심의 인프라에서 추론 영역이 확대됨에 따라 HBM을 보완·대체하는 솔루션으로 GDDR7이 주목받고 있다.
고속도로를 예로 들면 HBM은 시속 80km 제한이 걸린 8차선 도로, GDDR7은 시속 100km까지 가능한 4차선 도로라고 생각하면 된다. 4차선 대역폭으로도 데이터 처리 요구를 충족할 수 있는 수준의 사양이라면 훨씬 더 저렴한 GDDR7을 선택하는 것이 합리적일 수 있단 설명이다.
대표적으로 반도체 설계 분야 레전드격인 짐켈러 CEO의 텐스토렌트는 자체 설계한 AI 가속기 ‘웜홀’에 HBM이 아닌 GDDR 메모리를 사용하고 있다. GDDR은 DDR 메모리와 달리 그래픽 렌더링 및 병렬 처리 요구에 최적화된 메모리로, 영상 처리, 고해상도 게임 등 대량의 데이터를 빠르게 처리하는 데 적합한 반도체로 지목된다.
특히, 가격은 훨씬 저렴하면서도 안정적인 수급이 가능하단 장점이 크게 부각되고 있다. 최신 제품인 GDDR7의 경우 HBM 대비 기가바이트(GB)당 가격이 50% 이상 저렴한 것으로 전해진다.
텐스토렌트의 웜홀은 개방형 표준인 RISC-V(리스크 파이브) 기반의 AI 반도체다. RISC-V는 반도체 칩 설계에서 표준이 되는 ARM이나 x86의 대안으로 지목되는 아키텍처다. 텐스토렌트는 해당 코어 5개로 구성된 텐식스 코어를 기반으로 AI용 칩을 만들었다. 이를 통해 궁극적으론 서버 시장 진입을 목표로 하고 있으며, 엔비디아 GPU 독점체제의 대항마로 주목받고 있다.
반도체업계 관계자는 “텐스토렌트가 HBM을 안 쓰는 이유는 가격 때문이다. 그렇게까지 비싼 메모리를 쓰면서 AI 칩을 해야 할지 계속 의문을 품고 있으며, GDDR로도 충분히 필요한 대역폭을 만들어낼 수 있단 생각을 갖고 있다”며, “가격 경쟁력이나 열 특성 등을 유지하는 측면에선 GDDR이 당연히 훨씬 더 유리하기 때문에 대역폭을 극복할 방법만 잘 찾는다면 수익 측면에선 더 좋을 수밖에 없다”고 말했다.
테슬라 또한 HBM 사용에 신중한 입장을 보이고 있다. 자체 개발한 자율주행용 신형 고성능 AI 반도체 AI6에도 HBM 활용을 검토하지 않는 것으로 전해진다.
AI6은 완전 자율주행(FSD) 시스템을 비롯해 인간형 로봇 옵티머스, 자율주행 택시, 슈퍼컴퓨터 ‘도조’ 등 테슬라의 AI 생태계 전반에 핵심 칩으로 활용될 예정이다. 최근 삼성전자 파운드리가 미국 테일러 팹(공장)을 통해 위탁생산을 맡기로 했다. 해당 칩은 삼성전자의 게이트올어라운드(GAA) 2나노 공정으로 제조될 예정이다.
일론 머스크 테슬라 CEO는 최근 자신의 SNS 계정을 통해 “AI6는 삼성전자 텍사스 파운드리에서 생산될 예정이지만, HBM 사용 여부는 결정되지 않았다”며, “HBM이 여전히 올바른 선택일 수 있지만 일반 메모리를 사용하면 보드 위에 더 많은 총용량의 램을 탑재할 수 있고 비용도 훨씬 저렴할 것”이라고 언급한 바 있다.
엔비디아도 신형 AI 가속기 루빈 시리즈 정식 출시를 앞둔 가운데, 일부 제품에선 HBM이 아닌 GDDR7 탑재를 준비 중인 것으로 전해진다. 다만, 해당 모델은 HBM 수출이 금지된 중국 전용 제품으로만 만들어질 것으로 예상된다.
최정동 테크인사이츠 부사장은 “엔비디아가 GDDR7을 사용할 수 있겠지만, 루빈 전체 제품에 해당하는 것은 아니고, 중국 수출용으로만 사용할 것으로 보인다”며, “HBM과 GDDR7은 다이(die) 칩 하나 정도만 생각하면 성능은 거의 비슷할 수 있어도 대역폭 측면에선 완전히 다르다”고 설명했다.
그러면서 “중국으로 출시되는 건 와이어본딩을 적용하거나, 적층하더라도 2~4개 정도에서 끝날 수밖에 없다. 그렇게 되면 메모리 용량 자체가 대역폭 측면에서 감당하기 어려워질 것”이라며, “중국용으로 판매되는 제품 외 일반적으로 다른 곳에 사용되는 칩에는 모두 HBM이 활용될 것으로 예상된다”고 내다봤다.