엔비디아, 새 AI 추론 플랫폼 공개.."업계 최고 수준"

[이데일리 김혜미 기자] 엔비디아는 음성과 비디오, 이미지 및 추천서비스를 위한 AI(인공지능) 데이터센터 플랫폼 ‘엔비디아 텐서RT 하이퍼스케일 플랫폼’을 출시했다고 14일 밝혔다.

엔비디아 텐서RT 하이퍼스케일 추론 플랫폼은 엔비디아 튜링 아키텍처와 새로운 추론 소프트웨어에 기반한 엔비디아 테슬라 T4 GPU로 구성된다. 이 플랫폼은 엔드 투 엔드 애플리케이션을 위한 지연시간이 낮으면서도 업계 최고 수준의 빠른 성능을 제공해 대규모 데이터센터 내에서 향상된 자연어 상호작용과 검색시 직접 답변할 수 있는 서비스가 가능하다는 설명이다.

엔비디아는 AI 추론 산업이 향후 5년 내 200억달러(한화 약 22조4000억원) 규모로 성장할 것으로 예상하고 있다.

이안 벅 엔비디아 가속 컴퓨팅 담당 부사장 겸 총괄은 “고객들은 모든 제품과 서비스가 AI를 통해 향상되고 진화될 미래를 마주하고 있다”며 “엔비디아 텐서RT 하이퍼스케일 플랫폼은 이를 좀더 효율적이고 빠른 속도로 구현하기 위해 탄생했다”고 설명했다.

엔비디아 테슬라 G4 GPU. 엔비디아 제공