"AI로 해킹 잡는다"…SK쉴더스, ICML서 보안 AI 기술 공개

[경제일보] SK쉴더스가 글로벌 3대 인공지능(AI) 학회로 꼽히는 ICML 2026에 연구 논문을 올리며 AI 기반 사이버보안 기술 경쟁력 강화에 나섰다. 생성형 AI 확산 이후 사이버 공격 방식이 복잡해지면서 보안업계 역시 단순 관제 중심을 넘어 AI 원천기술 확보 경쟁에 뛰어드는 것으로 풀이된다.

22일 SK쉴더스는 자사 사이버보안 AI 연구 조직 '사이버보안AI랩스' 소속 임정훈 선임의 연구 논문이 글로벌 AI 학회 'ICML 2026'에 채택됐다고 밝혔다. ICML은 'NeurIPS', 'ICLR'과 함께 세계 3대 AI 학회로 꼽히는 대표적인 AI 학술 행사로 오는 7월 6일부터 서울 코엑스에서 열리는 'ICML 2026'에서 전 세계 AI 연구자들을 대상으로 발표될 예정이다.

이번 연구는 실제 사이버 공격 환경에서 발생하는 '불규칙 시계열 데이터' 문제를 새로운 방식으로 분석한 것으로 알려졌다. 기존 보안 탐지 시스템은 공격이 일정한 흐름과 패턴으로 이어진다는 가정 아래 데이터를 분석하는 방식이 일반적이었다. 다만 실제 해킹과 침투 공격은 발생 시점과 간격이 일정하지 않고 단시간 집중 공격이나 장기 잠복형 공격 등 다양한 형태로 나타나는 경우가 많은 것으로 나타났다.

이에 기존 방식으로는 불규칙하게 이어지는 공격 흐름을 충분히 반영하지 못해 이상 징후를 놓치거나 탐지 정확도가 떨어지는 한계가 있다는 지적이 이어져왔다. 최근 생성형 AI 기반 공격과 자동화된 해킹 기법이 확산되면서 기존 보안 체계의 대응 한계 역시 업계 주요 과제로 떠오르고 있다.

SK쉴더스는 이번 연구를 통해 불규칙한 공격 흐름 자체를 AI가 학습할 수 있도록 설계한 기술 'QuITE(쿼리 기반 불규칙 시계열 임베딩)'를 제시했다. 시간 간격이 서로 다른 데이터를 효과적으로 분석해 실제 공격 흐름을 보다 자연스럽게 반영할 수 있도록 설계된 것이 특징이다.

특히 해당 기술은 기존 AI 모델과 유연하게 결합할 수 있도록 다양한 보안 탐지 시스템에 적용 가능한 확장성을 가진 것으로 평가된다. 글로벌 공개 벤치마크 데이터셋 기반 성능 검증에서는 기존 시계열 분석 방식 대비 최대 45.9% 수준의 성능 개선 효과를 기록했다. 

AI 기반 사이버보안 경쟁이 단순 탐지 자동화를 넘어 실제 공격 패턴을 얼마나 정밀하게 분석하고 대응할 수 있는지로 빠르게 이동하고 있는 것으로 분석된다. 글로벌 보안기업들 역시 AI 기반 자율형 보안운영센터(SOC)와 실시간 위협 탐지 기술 개발에 투자를 확대하고 있다.

SK쉴더스 역시 이번 연구 성과를 실제 보안 서비스에 적용하는 방안을 검토 중이다. 회사는 자사 보안 관제센터 '시큐디움'과 MDR(관리형 탐색 & 응답) 서비스 등에 해당 기술을 연계해 위협 탐지와 분석·대응 정밀도를 높인다는 계획이다. 기존 방식으로 탐지하기 어려웠던 이상 징후 식별 역량 역시 강화될 것으로 전망된다.

또한 SK쉴더스는 사이버보안 특화 소형언어모델(sLLM)과 자율형 보안운영센터 등 차세대 AI 보안 기술 연구도 확대하고 있다. AI와 자동화 기반 실시간 탐지·대응 체계를 강화해 신·변종 사이버 공격 대응 역량을 끌어올린다는 전략이다.

김병무 SK쉴더스 사이버보안부문 부사장은 "이번 ICML 논문 채택으로 SK쉴더스의 AI 연구 역량이 글로벌 학계에서도 경쟁력을 인정받았다"며 "연구 성과를 자사 서비스에 연계해 탐지·분석 역량을 한 단계 끌어올리고, 사이버보안 특화 AI 기술에 대한 투자와 연구를 지속 확대해 나가겠다"고 말했다.