김대현 삼성AI센터장 "2년내 NPU 크게 성장…삼성도 NPU 개발"

[이데일리 김소연 기자] 김대현 삼성리서치 글로벌AI센터장은 14일 “2년 안에 인공지능(AI) 연산을 위한 신경망처리장치(NPU)는 많이 나올 것”이라며 “삼성도 온비다이스AI용 NPU를 만들고 있고, 클라우드용 NPU도 개발 중”이라고 말했다. 이어 “다만 NPU가 엔비디아의 그래픽처리장치(GPU)를 뛰어넘기는 쉽진 않은 상황”이라고 진단했다.

김 센터장은 서울 여의도 국회의원회관에서 고동진 국민의힘 의원 주최로 열린 간담회에서 이같이 말했다. 이에 국내에서 NPU를 만들고 있는 기업들을 위한 정책적 지원이 이루어져야 한다고 봤다.

김대현 삼성리서치 글로벌 AI센터장이 14일 서울 여의도 국회의원회관에서 열린 간담회에서 AI 가속기 동향에 대해 설명하고 있다. (사진=김소연기자)

김 센터장은 “NPU 성장 가능성은 매우 높기 때문에 삼성전자(005930)에서도 ‘마하’와 같은 클라우드용 NPU와 온디바이스AI를 위한 NPU 등 여러 개의 프로젝트를 추진하고 있다”며 “삼성리서치는 TV용 NPU를 개발 중”이라고 설명했다.

현재 AI 워크로드에 필요한 데이터센터의 대표 컴퓨팅 플랫폼이 GPU다. 마이크로소프트, 메타 등 미국 빅테크는 엔비디아의 GPU를 통해 AI 데이터센터를 짓고 있다. 현재 AI 데이터센터를 위한 최고의 하드웨어가 엔비디아의 GPU고, 이 시장을 엔비디아가 독점하고 있다. 값 비싼 엔비디아의 GPU에 대항하기 위해 구글를 비롯한 MS, 메타, 아마존 등이 자체적으로 칩을 설계해 AI 연산에 특화한 NPU를 만드는 시도를 하고 있다. 구글은 자체 NPU인 텐서처리장치(TPU)를 만들었다.

엔비디아의 독점을 가능케 한 이유는 바로 ‘쿠다’라는 소프트웨어 덕이다. 김 센터장은 “하드웨어인 GPU를 잘 구동하려면 그에 맞는 소프트웨어도 중요한데, 엔비디아의 소프트웨어 스택인 쿠다가 시장을 모두 잡고 있다”며 “NPU의 잠재력은 크지만 소프트웨어 툴이 엔비디아만큼 준비되지 않은 게 현실”이라고 설명했다. GPU를 완벽하게 대체하려면 NPU 구동을 위한 소프트웨어가 필요한데, 아직은 역부족인 상황이다. 김 센터장은 “한국 팹리스 기업들도 NPU를 만들고 있으나 소프트웨어에서 격차가 크게 난다”고 부연했다.

결국 NPU 지원과 더불어 엔비디아 GPU 활용을 함께 가져갈 수밖에 없는 상황인 셈이다. 김 센터장은 정책적으로 엔비디아의 GPU를 계속 활용하면서도 장기적으로 NPU를 육성하기 위한 소프트웨어를 지원하는 투 트랙 전략을 제안했다. 그는 “한국의 리벨리온이나 퓨리오사와 같은 스타트업에는 설계 분야의 우수한 엔지니어들이 많다”며 “NPU의 잠재력은 뛰어나지만 부족한 부분이 결국 소프트웨어”라고 말했다. 이어 “스타트업에서 만든 NPU 칩을 테스트베드할 환경을 제공하는 정책 지원이 이루어져야 한다”고 덧붙였다.

다만 정책 지원이 스타트업의 자생력을 유도하는 방향으로 쓰여야 한다는 점도 명확히 했다. 김 센터장은 “다만 스타트업이 최종적으로 살아남으려면 투자금을 통해 연명하는 차원이 아닌 스스로 자생할 수 있는 방향으로 정책을 구상하는 것이 필요하다”며 “결국 스타트업이 만든 NPU가 데이터센터에 들어가, 매출이 나와야 한다”고 강조했다. 정부의 지원 필요성에 공감하면서도 지원금이 위기의식 없이 돈만 지원하는 식은 옳지 않다는 의견이다.

김대현 삼성리서치 글로벌 AI센터장이 14일 서울 여의도 국회의원회관에서 열린 간담회에서 AI 가속기 동향에 대해 설명하고 있다. (사진=김소연기자)