삼성전자, 국산 NPU로 AI 데이터센터용 고성능 OAM 개발 추진

[시사저널e=고명훈 기자] 삼성전자가 국내 신경계처리장치(NPU) 기업과 인공지능(AI) 데이터센터 시장을 타겟으로 하는 범용 베이스보드(UBB) 전용 개방형 가속기 모듈(OAM) 개발을 추진한다.

UBB는 여러개의 AI 가속기 모듈을 하나의 공통 베이스보드에서 연결해 사용할 수 있는 개념의 표준 보드 기술로, AI 시대의 데이터센터 하드웨어를 표준화하고, 효율성을 높이기 위한 핵심 개방형 기술로 지목된다.

19일 반도체업계에 따르면 삼성전자는 파운드리 서비스를 통해 국내 NPU 회사가 설계한 칩을 기반으로 가속기 모듈을 만들고, 이를 서버회사가 만든 UBB 위에 올려놓고 테스트하는 작업을 추진 중인 것으로 전해진다.

삼성전자가 제작하는 가속기 모듈은 UBB 전용 OAM으로, 엔비디아, 인텔, AMD, 마이크로소프트(MS), 메타 등 오픈 컴퓨트 프로젝트(OCP)가 주도한 개방형 표준 사양을 따른다. 칩 제조사들이 각각 제작한 가속기 모듈이 같은 기계적, 전기적 사양을 따르게 해서 서로 호환될 수 있도록 설계한 점이 핵심이다.

OCP는 글로벌 빅테크 기업들이 데이터센터 하드웨어 설계를 오픈소스로 개방해서 표준화하자고 결성한 일종의 기술 커뮤니티로, 이를 통해 데이터센터의 효율성과 확장성, 비용 절감을 목표로 하고 있다.

삼성전자는 현재 국내 NPU 전문 업체 한곳과 OAM을 개발하고 있으며, 여기엔 NPU 칩과 더불어 삼성전자의 메모리가 들어간다. UBB용 OAM에는 그래픽처리장치(GPU), NPU 등과 함께 고대역폭메모리(HBM), GDDR 그래픽 D램 등 메모리 반도체도 함께 올라간다.

반도체업계 관계자는 “NPU를 베이스로 해서 OAM을 만들 때도 PCB 기판 위에 HBM4가 올라갈 수도 있고 GDDR7이 올라갈 수도 있다. 지금까진 대만 TSMC가 HBM이 들어가는 시장을 다 잡고 있었는데 삼성전자 파운드리도 OAM용 PCB 기판 위에 HBM 메모리를 올린 제품을 생산할 수 있는 상황이 됐다”며, “단순 NPU가 아니라 OAM을 삼성전자가 만드는 것”이라고 설명했다.

글로벌 시장에서도 이미 주요 칩 제조사들을 중심으로 UBB 구조의 칩 판매가 진행되고 있다.

인텔이 지난해 출시한 가우디3는 OAM으로 만들어져 하나의 UBB에 최대 8개의 가속기를 장착될 수 있도록 설계됐으며, 엔비디아의 고성능 GPU 모듈을 기반으로 한 DGX 시스템 역시 UBB로 구성됐다. 가우디3 모듈엔 HBM2E가 탑재됐으며, 엔비디아는 내년 출시 예정인 루빈 시리즈에 HBM4(6세대)와 GDDR7을 채택할 예정이다.

국내에서 UBB용 메인보드를 만들 수 있는 업체론 KTNF가 꼽힌다. KTNF는 국내에선 유일하게 국산 서버를 개발하고 만드는 25년차 서버 제조사로, 메인보드를 포함한 서버 주요 부품과 소프트웨어 개발, 조립까지 직접 수행하고 있다. 메인보드는 CPU, GPU, NPU, 메모리 등 모든 하드웨어가 잘 동작하도록 부품을 연결하는 핵심 기판 역할을 한다.

이중연 KTNF 대표는 “KTNF는 UBB 메인보드에 관심을 많이 갖고 개발 중이며, 실제로 할 수 있는 회사”라며, “UBB 보드를 설계할 수 있는 회사가 전세계적으로 그리 많지 않다. 엔비디아, 인텔도 어느 특정 회사가 독점적으로 개발할 수 있도록 NDA를 체결해 진행하고 있으며, 그런 상황에서 국내 NPU 회사들도 마찬가지로 UBB를 만든다고 했을 때 이에 대응할 수 있는 업체들이 많지 않다”고 말했다.

국내 NPU 기업들도 가속기 간 호환성을 높이고 비용 절감을 추진하기 위해선 UBB 구조를 채택해야 한다는 조언이 나온다.

이 대표는 “UBB가 정답은 아니지만 국내 NPU, SoC 자체가 성능이 높아야 되고 칩과 칩을 연결되는 인터커넥션 관련 기술이 아주 중요하다”며, “과거엔 엔비디아 NVLink가 폐쇄적인 기술로 독점하고 있던 거고, 지금 반대 진영에 있는 회사들이 UALink를 가지고 접근하는데, 가속기들을 모았을 때 최대 성능을 낼 수 있는 방법 중 하나가 UBB라는 솔루션”이라고 말했다.

그러면서 “국내 NPU 회사들도 UBB 기반의 OAM을 만들어서 가는 방향이 하나의 좋은 전략이 될 것”이라며, “단일 NPU가 가진 대역폭에 대한 한계가 있다 보니, 가속기 간 연결에서 저지연, 고대역폭 인터페이스를 설계할 수 있는 UBB라는 구조적인 접근을 통해 NPU가 가진 성능을 최대한까지 끌어올릴 수 있다”고 조언했다.