LGU+, AI는 빨라지고 배터리는 덜 쓰고…'토큰 최적화' 연구 성과

[경제일보] LG유플러스가 스마트폰에서 인공지능(AI)을 더 빠르게 실행하면서 배터리 소모를 줄이는 기술을 개발했다. 모델 크기와 연산 과정을 최적화해 제한된 메모리·전력에서도 AI를 활용하는 연구다. 개인 데이터를 외부 서버로 보내지 않고 기기 안에서 추가 학습하는 기술도 함께 선보였다.

LG유플러스는 관련 논문 2편이 ‘뉴립스(NeurIPS) 2026’의 온디바이스 인텔리전스(On-Device Intelligence) 워크숍에 채택됐다고 29일 밝혔다. 뉴립스는 주요 국제 AI 학술대회로, 올해 시드니 행사는 12월 6∼12일 열린다.

이번 연구는 AI가 질문을 이해하고 답변을 생성할 때 사용하는 데이터 단위인 ‘토큰’의 처리 효율을 높이는 데 초점을 맞췄다. 모델을 가볍게 만들고 연산을 효율화해 응답 시간과 자원 사용을 함께 줄이는 방식이다.

회사는 통화 서비스에 활용할 소형언어모델(sLM)을 개발하고 모델 경량화와 추론 가속 기술을 적용했다. 회사 측은 스마트폰 환경에서 기존 방식보다 처리속도를 약 4.5배 높이고 배터리 소모를 약 77% 줄였다고 설명했다. 연구에서 평가한 작업에서는 최신 클라우드 AI 수준의 성능을 유지했다고 밝혔다.

또 다른 연구는 개인 데이터를 기기 안에 둔 채 AI를 추가 학습하는 방법이다. 학습에 필요한 연산과 메모리 사용을 효율화했으며, 실제 스마트폰 검증에서 서버 학습과 같은 수준의 정확도를 보였다는 것이 회사 설명이다. 개인화에 필요한 데이터를 외부로 전송하는 부담을 줄이는 접근이다.

서버 영역에서는 AI 모델 최적화 전문기업 옵트에이아이와 협력하고 있다. 양사는 초기 공동 연구에서 답변 생성 연산을 개선해 같은 그래픽처리장치(GPU)로 처리할 수 있는 토큰량을 기존 대비 최대 4배로 높였다고 밝혔다.

스마트폰 연구가 개별 기기의 응답성과 전력 효율을 높이는 데 집중한다면, 서버 연구는 같은 자원으로 더 많은 이용자의 요청을 처리하는 것이 목표다. LG유플러스는 확보한 기술을 자사 AI 서비스와 인프라 운영에 단계적으로 적용할 계획이다.

이상엽 LG유플러스 최고기술책임자(CTO)는 “제한된 환경에서도 AI를 빠르고 효율적으로 실행하고 학습하기 위한 연구 성과를 인정받은 것”이라며 실제 서비스 적용과 서버 환경으로의 연구 확대를 추진하겠다고 말했다.

한편 최적화 기술의 사업적 가치는 처리속도와 답변 품질, 운영비를 함께 개선하는 데 있다. 스마트폰에서는 응답 지연과 발열·전력 소모를 줄여 이용 편의를 높이고, 서버에서는 요청당 연산 부담을 낮춰 서비스 확대에 대응할 수 있다.

실제 적용 단계에서는 기기 사양과 입력 길이, 동시 요청량에 따라 개선 효과를 확인해야 한다. 회사 발표에는 비교 모델과 기기, 세부 평가 조건이 제시되지 않아 논문의 실험 설계와 결과를 살펴볼 필요가 있다.

특히 통화처럼 개인의 맥락이 중요한 서비스에서는 속도를 높이면서도 내용을 정확히 처리하는지가 중요하다. 연구 성과를 다양한 단말과 실제 이용 환경에서 재현하고 서비스 품질로 연결하는 것이 상용화의 다음 과제다.