[800조 전쟁] 엔비디아 독주 균열 노린다…'국산 AI칩' 퓨리오사AI의 승부수

[경제일보] 정부가 인공지능(AI) 데이터센터를 국가 핵심 인프라로 공식화하면서 국내 AI 반도체 산업도 중대한 분기점을 맞았다. 수백조원 규모 AI 데이터센터 구축 계획이 현실화되면 이를 구동할 AI 반도체 수요도 폭발적으로 증가하기 때문이다.

문제는 AI 데이터센터 확대가 곧바로 국내 AI 반도체 산업의 성장으로 이어지는 것은 아니라는 점이다. 현재 AI 데이터센터 시장은 엔비디아 GPU가 사실상 독점하고 있어 대규모 인프라 투자가 이뤄지더라도 핵심 연산 반도체 수요는 해외 기업으로 쏠릴 가능성이 크다. 이런 가운데 정부가 처음으로 '국산 AI 반도체'를 메가 프로젝트의 핵심 축으로 제시하면서 퓨리오사AI와 같은 국내 팹리스 기업이 국가 AI 인프라 공급망에 진입할 수 있을지에 관심이 쏠린다.

과거에는 거대언어모델(LLM)을 학습시키기 위한 초고성능 GPU 확보가 핵심이었다. 하지만 앞으로는 실제 AI 서비스를 운영하는 '추론(Inference)' 경쟁력이 새로운 승부처로 떠오르고 있다. AI 에이전트와 피지컬 AI, 자율주행, 제조 AI 등이 확산될수록 AI 모델을 끊임없이 실행하는 추론 연산이 급증하고 데이터센터 운영비에서 전력 효율과 비용 경쟁력이 차지하는 비중도 커질 수밖에 없는 구조다.

정부는 AI 데이터센터를 국가 경쟁력의 핵심 인프라로 육성하면서 국산 AI 반도체(NPU)와 전력·냉각 솔루션을 함께 지원해 국내 AI 인프라 생태계를 구축하겠다는 청사진을 내놨다. 단순히 데이터센터 건물을 늘리는 것이 아니라 데이터센터 안에서 돌아가는 핵심 기술까지 국산화하겠다는 의미다.

이재명 대통령의 구상대로라면 이번 프로젝트의 성패는 데이터센터 규모보다도 AI 연산 담당자에게 달려있다. 현재 글로벌 AI 데이터센터는 엔비디아 GPU가 사실상 표준으로 자리 잡았다. AI 학습에 필요한 압도적인 연산 성능은 물론 CUDA 기반 소프트웨어 생태계와 개발자 환경, 풍부한 고객 레퍼런스까지 갖추면서 후발주자가 쉽게 넘볼 수 없는 시장을 구축한 것이다.

이 때문에 업계에서는 정부가 아무리 AI 데이터센터를 확대하더라도 핵심 반도체를 모두 해외 기업에 의존한다면 국가 AI 경쟁력을 확보하는 데 한계가 있다는 지적이 꾸준히 제기돼 왔다. AI 데이터센터는 국가 전략 인프라지만 연산을 담당하는 AI 칩과 서버, 시스템 소프트웨어가 해외 기술에 의존하게 되면 공급망 리스크를 피하기 어렵기 때문이다.
  정부의 AI 인프라 전략에서 가장 먼저 시험대에 오른 기업은 퓨리오사AI다. 2017년 설립된 퓨리오사AI는 AI 추론 전용 NPU를 개발하는 국내 대표 팹리스 기업이다. 회사는 범용 GPU와 정면 승부 하기보다 생성형 AI 서비스 운영에 필요한 추론 시장을 공략하는 전략을 택했다.

최근 공개한 2세대 AI 가속기 RNGD(레니게이드)는 거대언어모델과 멀티모달 AI 추론을 겨냥한 제품으로 높은 전력 효율과 비용 절감 효과를 강점으로 내세우고 있다. 회사 역시 고성능과 전력 효율을 동시에 구현하는 데이터센터용 AI 가속기를 핵심 경쟁력으로 제시하고 있다.

하지만 정부 정책만으로 퓨리오사AI의 성공을 장담하기는 어렵다. AI 반도체 시장은 단순히 칩 성능만으로 작동하지 않기 때문이다. 개발도구와 소프트웨어 호환성, 고객사가 기존 시스템에 쉽게 적용할 수 있는지 여부, 대규모 데이터센터에서 검증된 운영 경험까지 종합적인 생태계 경쟁이 이뤄지는 시장이다. 결국 메가 프로젝트가 국내 AI 반도체 산업의 전환점이 되려면 정책 지원뿐 아니라 실제 데이터센터에서 사용할 수 있는 상용 레퍼런스를 확보하는 것이 무엇보다 중요하다.

생성형 AI 초기 시장에서는 수천억 개의 매개변수를 가진 거대언어모델을 학습시키기 위해 막대한 연산 성능이 필요했다. 이에 따라 글로벌 빅테크들은 엔비디아의 GPU를 대거 확보하는 데 경쟁적으로 나섰고 GPU 확보 능력이 곧 AI 경쟁력으로 평가받았다.

하지만 AI 서비스가 본격적으로 상용화되면서 시장의 관심은 모델 제작에서 활용으로 옮겨가고 있다. 챗봇이 질문에 답하고 AI 비서가 업무를 수행하며 자율주행차와 스마트팩토리, AI 로봇이 실시간으로 판단을 내리는 과정은 모두 추론에 해당한다. AI를 실제 서비스로 운영할수록 추론 연산은 기하급수적으로 증가할 수밖에 없다.

시장조사업체들도 같은 전망을 내놓고 있다. AI 서비스 확산으로 향후 데이터센터 연산의 상당 부분이 추론 작업으로 차지할 것이 예상되면서 학습 중심이던 AI 반도체 시장도 점차 추론 중심으로 재편될 것이라는 분석이다.

업계 관계자는 "생성형 AI 서비스가 빠르게 확산되면서 추론 수요와 토큰 사용량은 이미 폭발적으로 증가하고 있다"며 "AI 확산이 빨라질수록 연산 효율을 높이는 기술 경쟁력이 더욱 중요해질 것"이라고 말했다.

이어 "정부의 AI 데이터센터 구축은 국내 AI 반도체 기업들에도 기술을 검증하고 시장을 확대할 수 있는 중요한 기회가 될 것으로 기대한다"고 덧붙였다. 퓨리오사AI는 엔비디아 GPU를 전면적으로 대체하겠다는 전략을 내세우지 않는다. 대신 추론에 필요한 연산을 보다 적은 전력으로 처리하는 데 초점을 맞추고 있다. 데이터센터 운영비 가운데 전기료가 차지하는 비중이 갈수록 커지는 만큼 같은 성능이라면 전력 소비를 줄이는 것이 곧 경쟁력이 된다는 판단에서다.

실제로 AI 데이터센터는 '전기 먹는 공장'으로 불릴 만크 막대한 전력을 소비한다. 최신 AI 서버 한 대에는 여러 개의 AI 가속기가 탑재되고 이를 수만 대 규모로 운영하면 전력 사용량은 도시 하나에 맞먹는 수준까지 늘어난다. 정부가 이번 메가 프로젝트에서 AI 데이터센터와 함께 전력 인프라를 핵심 과제로 제시한 것도 같은 맥락이다.

이 때문에 업계에서는 향후 AI 반도체 경쟁의 기준이 '최고 성능'에서 '최고 효율'로 점차 이동할 가능성도 제기한다. 모든 AI 서비스를 최고 사양 GPU로 운영하기보다 서비스 특성에 따라 GPU와 NPU를 함께 사용하는 방식이 늘어날 수 있다는 것이다.

다만 넘어야 할 벽은 여전히 높다. 엔비디아의 경쟁력은 단순히 GPU 성능에 있지 않다. AI 개발자가 사용하는 CUDA 플랫폼을 중심으로 방대한 소프트웨어 생태계를 구축했고 주요 클라우드 사업자와 데이터센터 운영사들이 이미 엔비디아 기반 시스템을 표준처럼 사용하고 있다. AI 모델 대부분도 엔비디아 환경에서 최적화돼 있어 다른 AI 반도체를 적용하려면 소프트웨어 수정과 운영 검증이 필요하다.

이 때문에 정부의 메가 프로젝트 역시 단순한 AI 데이터센터 인프라 투자에 머물러서는 안 된다는 지적이 나온다. AI 데이터센터를 짓는 것만으로는 국내 AI 반도체 산업이 성장하기 어렵고 국산 AI 칩이 실제 데이터센터에서 성능을 검증받고 상용화 레퍼런스를 확보할 수 있는 제도적 기반까지 함께 마련돼야 한다는 것이다.

실제 퓨리오사AI는 최근 들어 연구개발(R&D) 단계를 넘어 상용화 기반을 하나씩 확보하고 있다. 회사는 올해 1월 TSMC에서 생산한 2세대 AI 추론용 NPU 'RNGD(레니게이드)' 1차 양산 물량을 공급받으며 본격적인 양산 단계에 들어갔다. 올해 총 2만장 규모 생산을 목표로 글로벌 엔터프라이즈 시장 공략에 속도를 내고 있다.

기술 검증 사례도 늘고 있다. LG AI연구원은 자사 거대언어모델(LLM) '엑사원(EXAONE)' 추론 환경에서 RNGD를 검증한 뒤 도입을 결정했다. 퓨리오사AI에 따르면 RNGD는 실제 서비스 환경에서 기존 GPU 기반 시스템보다 와트당 성능을 2.25배 높였고, 동일한 전력 조건에서는 최대 3.75배 많은 토큰을 처리하는 것으로 나타났다. 이는 AI 데이터센터 운영에서 가장 큰 비용으로 꼽히는 전력 부담을 줄일 수 있다는 의미다.
  이처럼 기술력과 상용화 가능성을 입증하는 사례가 늘어나면서 정부가 추진하는 AI 데이터센터 메가 프로젝트가 퓨리오사AI와 같은 국산 AI 반도체 기업의 성장 기반이 될 수 있다는 기대도 커지고 있다.

업계는 이번 메가 프로젝트가 국내 AI 반도체 산업에는 이전과 다른 의미를 가진다고 평가한다. 정부가 AI 데이터센터를 국가 전략 인프라로 규정하면서 처음으로 AI 모델부터 반도체, 데이터센터, 전력 인프라까지 하나의 산업 생태계로 연결하는 청사진을 제시했기 때문이다.

특히 정부가 AI 데이터센터 구축과 함께 국산 AI 반도체 기반 추론 시장 육성을 공식 정책 방향으로 제시한 만큼, 향후 국가 AI 프로젝트와 공공 AI 사업에서 국산 NPU 적용 사례가 늘어날 가능성도 제기된다. 이는 퓨리오사AI뿐 아니라 국내 AI 서버, 클라우드, 전력·냉각 장비 기업으로까지 파급 효과가 확산될 수 있다는 의미다.

AI 데이터센터가 또 하나의 '엔비디아 GPU 구매 사업'으로 끝날지 아니면 국산 AI 반도체와 소프트웨어, 서버, 전력 설비까지 함께 성장하는 산업 생태계의 출발점이 될지는 앞으로 정부 정책과 민간 투자의 실행력에 달려 있다.

퓨리오사AI 역시 같은 시험대에 올랐다. 추론 특화 AI 반도체라는 기술 경쟁력을 실제 시장 경쟁력으로 연결하고 정부 프로젝트를 발판으로 대규모 상용 레퍼런스를 확보할 수 있다면 '국산 AI칩'은 상징을 넘어 하나의 산업으로 자리 잡을 수 있다. 반대로 정책 지원에만 의존한 채 민간 시장에서 경쟁력을 입증하지 못한다면 이번 메가 프로젝트 역시 국산 AI 반도체 육성의 또 다른 선언에 그칠 가능성을 배제하기 어렵다.

AI 시대의 승자는 더 이상 반도체를 가장 많이 만드는 기업만이 아니다. AI를 가장 효율적으로 구동하는 반도체를 만들고 이를 국가 인프라 안에서 실제 활용하는 생태계를 구축하는 국가가 다음 경쟁의 주도권을 쥘 것이라는 점에서 퓨리오사AI를 비롯한 국내 AI 반도체 기업들의 도전은 이제부터가 진짜 시작이다.

업계 관계자는 "정부가 AI 데이터센터와 국산 AI 반도체를 함께 육성하겠다는 방향을 제시한 것은 국내 AI 반도체 기업에는 의미 있는 기회"라며 "특히 AI 데이터센터 구축은 기술력을 검증하고 실제 공급 레퍼런스를 확보할 수 있는 중요한 계기가 될 것으로 기대하고 있다"고 말했다.

이어 "AI 인프라가 빠르게 확산돼야 AI 서비스와 산업 혁신도 함께 성장할 수 있다"며 "정부가 추진하는 AI 데이터센터 구축과 AI 인프라 확대 정책이 국내 AI 반도체 생태계에도 긍정적인 역할을 할 것으로 본다"고 덧붙였다.