“딥시크 AI 개발 비용 과장됐지만, 빅테크보다 훨씬 적은 건 사실”
“향후 2년 안에 수조원 수준 집중인 투자 필요”

이동수 네이버클라우드 이사가  12일 국회의원회관에서 개최한 국회 긴급 AI전략토론회에서 발표하고 있다. / 사진=고명훈 기자
이동수 네이버클라우드 이사가  12일 국회의원회관에서 개최한 국회 긴급 AI전략토론회에서 발표하고 있다. / 사진=고명훈 기자

[시사저널e=고명훈 기자] 중국 딥시크의 추론용 인공지능 모델 등장으로 AI 반도체 패러다임이 또 한번 변화했단 분석이 나왔다. 

이동수 네이버클라우드 이사는 12일 국회의원회관에서 열린 ‘국회 긴급 AI전략토론회’에서 “지금까지 AI 반도체는 (문장을 생성하는) 트랜스포머 AI 모델이 나왔을 때, GPT가 나왔을 때, 추론 모델이 나왔을 때 급격한 패러다임의 전환이 있었다”며 “딥시크 등장 이후 또 의미가 큰 것이, 이전엔 오픈AI와 같은 회사는 모델 크기가 얼마나 되는지, 어떤 구조인지 밝히지 않았는데 딥시크는 공개했다”고 말했다. 

그는 “딥시크의 등장은 우리에게도 굉장히 큰 도움이 됐고, 추론용 AI 반도체가 아직은 너무 비싸기 때문에 앞으론 AI 반도체 패러다임의 변화에 대응할 때 우리에게도 충분히 기회가 있다고 판단한다”고 덧붙였다.

◇ 80억원 AI?···딥시크 비용 논란

딥시크는 최근 거대언어모델(LLM) ‘V3’와 추론용 AI 모델인 ‘R1’을 출시하면서 80억원대 저비용으로도 미국 빅테크의 주요 AI 모델들과 유사한 성능을 보였다고 밝혔다.

이후 반도체업계와 각종 시장조사업체들은 딥시크의 발표가 과장됐단 분석을 내놨다. 딥시크가 AI 모델 구동의 핵심인 그래픽처리장치(GPU)에 지속해 투입한 비용을 배제한 채 최종 결과만 강조했단 것이다.

실제 AI 모델 서비스 비용 측면 보면 딥시크 V3 모델은 메타의 라마3 모델보다 운영비용이 높으며 추론용 모델인 R1은 V3와 같은 아키텍처 기반의 모델이면서도, 가격은 훨씬 더 높다.

이 이사는 이에 대해 “V3는 챗GPT와 같은 LLM과 마찬가지로, 인풋(명령을 내리는 것) 토큰(언어 모델이 텍스트를 이해하고 생성하는 기본 단위) 비용이 아웃풋(명령에 대한 답변을 내리는 것) 토큰보다 5~10배 이상 높은 것으로 알려져 있다”며 “사실 원가로 따지면 아웃풋 토큰을 만들 때 훨씬 큰 비용이 들지만, 인풋에서 이윤을 남기고 아웃풋에서 손해를 보는 방식으로 영업해왔다”고 설명했다.

그러면서 “R1과 같은 추론용 모델은 AI가 스스로 생각하고 추론하는 부분이 크다 보니 일반 LLM 대비 토큰을 6~10배 많이 만든다. 그러면 아웃풋 토큰에서 손해 보는 장사를 할 수 없기 때문에 가격이 많이 올라가는 것”이라고 덧붙였다. 

◇ 중국 AI 모델, ‘MoE 아키텍처’ 대세

딥시크를 비롯한 중국업체들은 AI 모델 개발에 학습 비용을 줄이는 데 강점을 지닌 MoE(Mixture of Experts) 아키텍처를 적극 활용하고 있다. MoE는 전문가 모델을 수백만개로 확장할 수 있는 아키텍처다. 효율적인 학습이 가능하지만, AI 모델 서비스를 제공하는 비용이 많이 들뿐더러, GPU가 비효율적으로 운영되는 단점이 있다. 알리바바, 미니맥스 등이 개발한 AI 모델도 이와 같은 방식이다.

이 이사는 “중국에선 특이할 만큼 MoE 기반의 AI 모델이 쏟아지고 있다. 미국의 경우 챗GPT4가 처음 MoE를 기반으로 만들어졌다가 서비스 확산에 문제가 있다는 것을 알고 최근엔 MoE를 채택하지 않고 있다”며 “코파일럿, 라마 등 미국 기업들의 AI 모델은 대량으로 확산하는 부분이 있어야 해서 MoE 대신 다른 경제적인 방식을 채택하는 것”이라고 설명했다.

그는 이어 “그렇다고 중국이 미국보다 뒤처진 아키텍처를 선택한 것이라고 볼 순 없다”며, “중국은 기술 리더십 확보에 공격적으로 나서고 있으며 제한된 자원 안에서 우리가 어떤 부분을 전략적으로 취사선택할 수 있을지에 대한 좋은 예를 보여줬다고 생각한다”고 말했다.

이 이사는 “딥시크에서 발표한 것처럼 (이번 AI 모델 개발에 든 비용이) 수십억원 수준은 아니라고 생각한다. 물론 빅테크가 얘기하는 수백조원에 비하면 훨씬 적은 것은 사실”이라며 “우리나라가 진입 못할 정도의 투자 규모는 아니다. 업계 추산을 다 고려하더라도 3조~5조원 정도면 충분히 경쟁력 확보가 가능하다고 본다”고 말했다.

인재 측면에서도 주목할 점이 있다고 강조했다.

그는 “인재 관련해서도 사실 딥시크가 대단한 점이 미국 인력이 없다는 것이다. 딥시크를 통해서 중국 내부 인력으로도 충분히 할 수 있단 가능성을 보여줬다”며 “우리도 향후 2년 안에 수조원 정도의 집중적인 투자가 필요하지 않을까 생각한다”고 제안했다.

저작권자 © 시사저널e 무단전재 및 재배포 금지