AI 추론 최적화 수요 확대…노타, 상반기 수주 174억원 기록

[경제일보] 생성형 인공지능(AI) 시장이 '학습' 중심 경쟁에서 실제 서비스를 운영하는 '추론' 경쟁으로 빠르게 이동하면서 AI 모델을 효율적으로 구동하는 최적화 기술의 중요성이 커지고 있다. 이에 피지컬 AI와 온디바이스 AI 확산으로 제한된 연산 자원에서도 AI를 안정적으로 실행하려는 수요가 늘어나면서 AI 경량화 기술 기업인 노타의 사업 기회도 확대되는 모습이다.

26일 노타는 올해 2분기 수주액이 약 61억원을 기록했다고 밝혔다. 지난해 같은 기간 약 28억원과 비교하면 두 배 이상 증가한 규모다. 1분기 수주액 약 113억원을 포함한 상반기 누적 수주액은 약 174억원으로 집계됐다.

최근 AI 산업은 거대언어모델(LLM)의 성능 경쟁을 넘어 실제 서비스 환경에서 얼마나 빠르고 효율적으로 AI를 실행할 수 있는지가 핵심 경쟁력으로 떠오르고 있다. AI 모델 규모가 커질수록 연산량과 전력 소비가 증가하는 만큼, 반도체 성능을 최대한 활용하면서도 추론 속도를 높이는 최적화 기술이 기업들의 새로운 투자 분야로 부상하고 있는 것이다.

특히 제조 현장과 자율주행, 로봇, 스마트시티 등 피지컬 AI 분야가 확대되면서 클라우드 서버가 아닌 단말기에서 AI를 직접 구동하는 온디바이스 AI 시장도 빠르게 성장하고 있다. 산업 현장에서는 네트워크 연결 여부와 관계없이 실시간으로 AI를 실행해야 하는 사례가 늘어나면서 AI 모델을 경량화하고 하드웨어 환경에 맞게 최적화하는 기술 수요가 확대되고 있다.

이에 노타는 시장 변화에 맞춰 AI 최적화 플랫폼 '넷츠프레소'와 AI 비전 솔루션 'NVA(노타 비전 에이전트)'를 양축으로 사업을 확대하고 있다. 노타에 따르면 플랫폼 부문은 올해 2분기 전년 동기 대비 184% 성장했다. 최근 AI 반도체 기업 모빌린트와 넷츠프레소 라이선스 계약을 체결하면서 삼성전자, 퓨리오사AI, Arm 등에 이어 반도체 및 하드웨어 기업과의 협력 범위를 지속 확대하고 있다.

넷츠프레소는 AI 모델을 반도체와 하드웨어 환경에 맞춰 경량화·최적화하는 플랫폼이다. 제한된 연산 자원에서도 AI 모델을 안정적으로 구동할 수 있도록 지원하며, 피지컬 AI와 온디바이스 AI뿐 아니라 데이터센터 환경에서도 AI 추론 효율을 높이는 기술로 활용되고 있다. 노타는 AI 반도체 종류가 다양해질수록 각 칩 특성에 맞는 최적화 기술의 중요성도 함께 높아지고 있다고 설명했다.

산업 현장 중심의 AI 솔루션 사업도 성장세를 이어갔다. NVA 솔루션 부문은 지난해 같은 기간보다 약 1.8배 성장했다. 제조업과 건설, 플랜트, 산업안전 분야를 비롯해 영상 관제와 도시 안전, 교통 인프라 등 다양한 분야에서 적용 사례를 확대하며 사업 기반을 넓히고 있다.

최근에는 교통 영상 기반 비전언어모델(VLM) 분석과 다중 운집 분석 등 공공안전 분야 레퍼런스도 확보했다. 산업 현장과 도시 인프라에서 클라우드 의존도를 낮추고 현장 단말에서 AI를 즉시 실행하려는 수요가 늘면서 NVA의 적용 범위도 지속 확대되고 있다.

IT 업계에서는 향후 AI 시장 경쟁이 모델 자체의 성능뿐 아니라 얼마나 다양한 반도체 환경에서 효율적으로 구동할 수 있는지가 중요 요인으로 작용할 것으로 전망하고 있다. AI 서비스가 제조와 모빌리티, 로봇, 공공안전 등 실제 산업 현장으로 확산될수록 추론 최적화와 경량화 기술은 AI 생태계의 핵심 기반 기술로 자리 잡을 것이라는 분석이다.

특히 노타는 플랫폼과 솔루션을 동시에 확대하며 AI 최적화 시장 공략에 속도를 낸다는 전략이다. 플랫폼 사업에서는 반도체 및 컴퓨팅 환경 전반으로 협력 범위를 넓히고, 솔루션 사업에서는 산업안전과 모빌리티, 교통, 공공안전 등 피지컬 AI 수요를 기반으로 레퍼런스를 확대해 AI 추론 최적화 시장에서 경쟁력을 강화한다는 계획이다.

채명수 노타 대표는 "AI가 다양한 디바이스와 산업 현장으로 확산될수록, 제한된 자원 안에서 AI를 빠르고 안정적으로 실행하는 추론 최적화 기술의 중요성은 더욱 커지고 있다"며 "올해 2분기 수주 성과는 넷츠프레소를 중심으로 한 반도체향 사업 확대와 NVA 기반 경량 AI 솔루션의 현장 적용성이 함께 입증된 결과"라고 말했다.