SKT, Arm·리벨리온과 손잡고 AI 추론 인프라 구축

[경제일보] 생성형 AI 확산으로 데이터센터 수요가 급증하면서 단순 연산 성능 경쟁을 넘어 전력 효율과 비용 경쟁력 확보가 핵심 변수로 떠오르고 있다. 이에 SK텔레콤은 Arm과 리벨리온의 협업을 통해

10일 SK텔레콤은 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 지난 9일 체결했다고 밝혔다.

AI 산업 초기에는 대규모 모델을 학습시키기 위한 고성능 GPU 확보가 가장 중요한 과제로 꼽혔다. 다만 최근에는 실제 서비스 운영 단계에서 지속적으로 AI를 실행해야 하는 추론 작업이 늘어나면서 효율성 문제가 부각되고 있다. 추론은 24시간 반복적으로 실행되는 특성상 전력 소비가 높을수록 운영 비용이 급증하는 구조다. 이에 따라 GPU 중심 인프라에서 벗어나 추론에 특화된 AI 반도체 도입 필요성이 커지고 있다.

이에 SK텔레콤은 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 AI 데이터센터 사업 협력에 나섰다. 세 회사는 Arm의 데이터센터용 CPU와 리벨리온의 AI 추론용 NPU를 결합한 서버 설루션을 공동 개발하고 SK텔레콤 AI 데이터센터에 적용하는 방안을 추진한다. 이를 통해 AI 추론 성능과 전력 효율을 동시에 개선하는 인프라 구축에 나선다는 계획이다.
이번 협력은 CPU와 NPU를 결합한 이종 컴퓨팅 구조 구축을 목표로 진행된다. AI 서비스 운영 과정에서는 AI 연산뿐 아니라 데이터 입출력, 네트워크 통신, 메모리 관리 등 다양한 작업이 동시에 가능하다. CPU는 이 같은 범용 연산과 시스템 운영을 담당하고 NPU는 AI 추론 연산을 전담해 GPU 단일 구조 대비 전력 효율을 높이고 비용을 절감할 전망이다.

리벨리온은 국내 AI 반도체 스타트업 가운데 데이터센터용 AI 칩 개발을 진행하고 있는 기업으로 대규모 AI 서비스 운영에 필요한 저전력·고효율 설계를 앞세워 데이터센터 시장 진입을 추진하고 있다. 이번 협력을 통해 통신사 AI 데이터센터에 직접 적용될 경우 국산 AI 반도체 생태계 확대에도 영향을 미칠 전망이다.

Arm 역시 데이터센터 시장 공략에 속도를 내고 있다. 기존 모바일 중심 설계에서 벗어나 데이터센터용 CPU 시장 확대를 추진하며 AI 인프라 영역으로 사업 범위를 넓히고 있다. 전력 효율성이 중요한 AI 데이터센터 환경에서는 Arm 기반 CPU 도입이 늘어나는 추세로 이번 협력은 Arm의 데이터센터 전략 확대 움직임과도 맞물려 있는 것으로 분석된다.

SK텔레콤은 AI 데이터센터 사업을 미래 핵심 성장동력으로 삼고 관련 투자를 확대하고 있다. 자체 AI 파운데이션 모델 개발과 함께 인프라 경쟁력 확보를 동시에 추진하며 AI 사업 구조를 강화하고 있다. 이번 협력을 통해 저전력·고효율 추론 인프라를 확보하고 AI 데이터센터 운영 효율성을 높인다는 계획이다.

전력 효율과 비용 경쟁력이 핵심 요소로 떠오르면서 통신사와 반도체 기업 간 협력도 확대되고 있다. AI 산업이 학습 중심에서 추론 중심으로 이동하면서 데이터센터 인프라 경쟁도 새로운 국면에 접어들 전망이다.

이재신 SKT AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 말했다.