삼성SDS, 퓨리오사AI 손잡고 NPUaaS 출시…"AI 인프라 선택권 넓힌다"

[경제일보] 생성형 인공지능(AI) 확산과 함께 AI 인프라 시장이 학습 중심에서 추론 중심으로 빠르게 재편되면서 엔비디아 GPU 일변도 시장에 변화의 조짐이 나타나고 있다. AI 서비스 운영 과정에서 비용과 전력 효율성이 새로운 화두로 떠오르자 삼성SDS는 GPU의 대안으로 추론에 특화된 NPU(신경망 처리 장치)를 주목하고 있다.

20일 삼성SDS는 퓨리오사AI의 2세대 NPU '레니게이드(RNGD)'를 기반으로 한 NPUaaS(NPU as a Service)를 삼성 클라우드 플랫폼(SCP)에 탑재해 출시했다고 밝혔다. 기존 GPUaaS에 이어 NPU 기반 AI 연산 자원까지 확보하면서 기업들의 AI 인프라 선택지를 넓힌 것으로 평가된다.

레니게이드는 AI 추론에 특화된 국산 NPU다. 이미 학습된 AI 모델을 실제 서비스에 적용해 답변을 생성하거나 문서를 분석하고 이미지를 판별하는 추론 과정에서 높은 전력 효율성과 비용 경쟁력을 갖춘 것이 특징이다.

최근 AI 시장의 관심은 대규모 모델 학습에서 추론으로 이동하고 있다. AI 모델 개발 초기에는 막대한 연산 능력을 갖춘 GPU가 필수적이었다면, AI 서비스가 본격화되면서 얼마나 효율적으로 추론을 수행할 수 있는지가 기업들의 새로운 과제로 떠올랐다. 생성형 AI 서비스가 늘어날수록 추론 비용 역시 함께 증가하기 때문이다.

IT 업계에서는 모든 AI 서비스를 고성능 GPU로 운영할 필요는 없다는 분석도 나온다. AI 모델을 학습하는 단계와 서비스를 제공하는 단계에 필요한 연산 자원이 다른 만큼 활용 목적에 따라 GPU와 NPU를 함께 사용하는 하이브리드 AI 인프라 수요가 확대될 것이라는 전망이다.

삼성SDS는 해당 수요에 맞춰 고객이 직접 NPU 서버를 구매하거나 자체 데이터센터를 구축하지 않고도 SCP를 통해 구독형 서비스로 활용할 수 있도록 구성했다. 삼성SDS는 기업들이 서비스 규모와 데이터 처리량에 따라 NPU를 1장부터 2장, 4장, 8장 등 필요한 만큼 선택해 사용할 수 있어 스타트업부터 대기업까지 AI 서비스 규모에 맞춰 유연하게 인프라를 구성할 수 있다고 설명했다.

특히 삼성SDS가 퓨리오사AI와 협력한 배경에는 AI 추론 시장 확대에 따른 비용 효율성과 국산 AI 반도체 생태계 확보가 자리하고 있다. 퓨리오사AI는 국내 대표 AI 반도체 스타트업으로 LG AI연구원과 LG유플러스, LG CNS를 비롯해 메가존클라우드 등 국내 IT 기업들과 협력하며 NPU 상용화를 확대하고 있다. 최근에는 에이전틱 AI와 소버린 AI 수요가 늘어나면서 전력 효율성이 높은 추론용 NPU가 주목받고 있는 만큼 삼성SDS 역시 기업용 AI 인프라 경쟁력 강화를 위해 퓨리오사AI를 선택한 것으로 풀이된다.

또한 대규모 AI 모델 학습에는 GPU가 필수적이지만, 서비스 운영 단계에서는 비용과 전력 소모를 줄일 수 있는 NPU의 역할이 커지고 있다. 퓨리오사AI의 레니게이드는 추론 성능과 전력 효율성을 앞세워 글로벌 빅테크와 국내 기업들로부터 기술력을 인정받고 있으며, 자체 생태계 확대에 속도를 내고 있다. 삼성SDS는 GPUaaS에 이어 NPUaaS까지 확보하면서 향후 공공과 금융, 제조 등 기업 고객을 대상으로 다양한 AI 인프라 선택지를 제공할 수 있게 됐다.

고성능 스토리지와 컴퓨트, 고속 네트워크 등 SCP의 다양한 클라우드 서비스와 연계해 사용할 수 있는 것도 특징이다. 삼성SDS는 이번 서비스를 소버린 클라우드 환경으로 제공해 엄격한 보안 규제를 적용받는 공공 분야에서도 활용성을 높인다는 계획이다.

정부가 독자 AI 파운데이션 모델 구축과 소버린 AI 전략을 추진하는 가운데 AI 모델뿐 아니라 이를 뒷받침할 AI 반도체와 클라우드 인프라 확보가 중요해지고 있다. 이에 삼성SDS는 GPU와 NPU를 모두 제공하는 AI 인프라 사업자로서 기업들의 다양한 수요에 대응할 수 있는 기반을 마련하게 된 것으로 평가된다.

이호준 삼성SDS 클라우드서비스사업부장 부사장은 "이번 NPUaaS 출시는 단순히 새로운 클라우드 상품을 선보이는 것을 넘어 고객이 고성능 AI 기술을 더 유연하고 가성비 높게 사용할 수 있다는 데 의의가 있다"며 "삼성SDS는 앞으로도 고객 니즈 해결을 위해 SCP 기반 상품을 다양화하고, 클라우드 AI 기술 생태계를 지속적으로 선도해 나갈 것"이라고 말했다.