독자 AI, 이제 '실전'으로…SKT·업스테이지, 보안 데이터로 성능 검증

[경제일보] 독자 인공지능(AI) 파운데이션 모델 경쟁이 모델 성능을 겨루는 단계를 넘어 실제 산업 현장에 투입해 경쟁력을 입증하는 단계로 넘어가고 있다. SK텔레콤과 업스테이지는 국내 정보보호 기업들이 보유한 실제 보안 데이터를 독자 AI 모델에 학습시키고, 두 모델이 서로를 공격하는 레드티밍까지 진행하며 사이버보안 분야에서 실전 성능 검증에 나선다. 정부의 '독자 AI 파운데이션 모델 프로젝트(독파모)'를 통해 확보한 모델 경쟁력을 산업 현장으로 확장하려는 움직임이다.

8일 SK텔레콤은 업스테이지와 전날 SKT타워에서 국내 정보보호 기업 6곳, 대학 3곳과 함께 '독자 AI 사이버보안 협의체'를 출범하고 AI 정보보호 기술 협력을 위한 업무협약을 체결했다고 밝혔다. SK쉴더스·시큐아이·안랩·라온시큐어·지니언스·파이오링크 등 보안기업과 고려대·숭실대·부산대가 참여했다.

이번 협의체는 국내 보안기업이 현장에서 축적한 데이터를 독자 AI 모델 개발에 연결하는 것을 목표로 설립됐다. SK텔레콤의 A.X K 시리즈와 업스테이지의 솔라에 악성코드 분석, 취약점 분석, 보안관제 등 실제 보안 업무 과정에서 생성되는 데이터를 학습시키고, 이후 보안기업의 제품과 서비스에 적용해 성능을 검증한다.

이는 독파모를 통해 개발한 AI 모델의 활용처를 산업별로 넓히는 과정으로 분석된다. SKT와 업스테이지는 독파모 3단계에 진출하며 국내 독자 AI 모델 경쟁력을 입증한 데 이어, 이번에는 보안이라는 구체적인 산업 영역에서 모델의 활용 가능성을 시험한다.

특히 사이버보안은 일반적인 생성형 AI 서비스와 달리 현장 데이터의 중요성이 큰 분야다. AI가 실제 공격을 탐지하고 취약점을 분석하려면 과거 공격 사례와 악성코드, 보안관제 기록 등 전문 데이터에 대한 이해가 필요하기 때문이다. 새로운 공격 방식이 계속 등장하는 만큼 최신 위협 데이터를 얼마나 빠르게 모델에 반영하느냐도 성능을 좌우할 전망이다.

협의체에 참여한 보안기업들은 각자의 현장 데이터를 바탕으로 모델 고도화를 지원한다. SK쉴더스는 통합 보안관제 플랫폼을 통해 하루 170억건 규모의 위협 이벤트를 분석하고 있으며, 안랩은 2.5PB 이상의 보안 데이터를 보유하고 있다. 시큐아이는 방화벽 등 네트워크 보안 영역, 라온시큐어는 보안 데이터와 자율 모의침투, 지니언스는 보안 솔루션 운영 데이터와 사후학습 데이터셋, 파이오링크는 자율 공격 검증과 탐지룰 생성 분야의 역량을 제공한다.

SK텔레콤과 업스테이지는 사전학습과 사후학습을 나눠 진행한다. 사전학습에서는 보안 데이터를 활용해 모델의 기초적인 보안 지식을 강화하고, 사후학습에서는 소프트웨어 취약점 분석·패치, 보안관제센터의 사고 대응, 보안 도구 활용 등 실제 업무 수행 능력을 높인다.

SK텔레콤은 차기 모델인 A.X K3에 보안 분야 데이터를 체계적으로 학습시키는 한편 전 국민 대상 AI 서비스인 '모두의 AI'를 안전하게 운영하는 데 필요한 데이터도 보강한다. 업스테이지는 대용량 코드와 장기간 로그를 분석할 수 있는 차기 솔라 모델에 취약점 탐지·분석 데이터를 집중적으로 학습시킬 계획이다.

이 과정에서 두 독자 AI 모델이 서로를 공격하는 '상호 레드티밍'도 진행한다. 한 모델이 다른 모델의 취약점을 찾아 공격하고, 여기서 발견된 문제를 다시 학습 데이터로 활용해 방어 능력을 높이는 방식이다.

AI 모델을 대상으로 한 공격과 방어를 반복하면서 기존 벤치마크 점수만으로 확인하기 어려운 보안 취약점을 찾아내겠다는 것이다. SK텔레콤은 앞서 A.X K2 개발 과정에서 자체 레드티밍 자동화 체계인 SERT(셀프 익스펜딩 레드티밍)를 구축해 약 1만5000건의 공격 대응 데이터를 생성·학습한 바 있다. 이를 이번 협의체의 상호 레드티밍에도 확대 적용한다.

업스테이지 역시 고난도·안전성 데이터 21만건과 AI가 위험한 요청을 거부하도록 학습시키는 정렬 체계를 활용한다. 양사가 각각 축적한 AI 안전성 기술을 사이버보안이라는 실제 공격·방어 환경에 적용하는 것이다.

해당 구상에서 대학이 제3자 검증 역할을 맡는다. 고려대는 AI의 실행 파일 분석 능력과 공격 방어력을 평가하고, 숭실대는 AI 보안 성능 평가 기준과 안전장치 우회 공격 대응력을 검증한다. 부산대는 차기 모델과 경량 모델의 성능 및 안전성을 평가한다.

기업이 직접 개발한 AI 모델을 자사 기준으로만 평가하는 것이 아니라 대학의 독립적인 검증을 병행한다는 점에서 이번 협의체의 차별점이 있다. 특히 보안 AI는 모델이 공격을 잘 탐지하는 것뿐 아니라 공격자가 AI의 판단을 우회하거나 잘못된 답변을 유도했을 때도 안정적으로 대응하는지가 중요하다.

최종적으로는 실제 보안 제품과 서비스에 A.X K와 솔라를 적용하는 단계까지 이어진다. 참여 기업들은 제로데이 취약점 분석과 실시간 보안 관제 등 각자의 제품·서비스에 AI 모델을 적용하고 운영 환경에서 성능을 확인할 계획이다.

여기서 확보한 분석·대응 결과는 다시 모델 학습에 반영한다. '보안 데이터 확보 → AI 학습 → 레드티밍 → 현장 실증 → 재학습'으로 이어지는 순환 구조를 만드는 것이 협의체의 목표다.

유경상 SK텔레콤 AI CIC장은 "보안 AI의 수준은 결국 모델이 얼마나 넓고 깊게 추론하느냐에 달려 있다"며 "독자 AI 파운데이션 모델 프로젝트에서 검증된 모델들이 국내 대표 정보보호 기업·대학과 함께 실제 보안 현장에서 효과를 입증해, 국가 대표 AI 모델의 활용 성과를 사이버보안 영역에서도 보여주겠다"고 말했다.