배경훈 "AI 보안주권 확보"…네이버·LG, 공격·방어 AI 함께 키운다

[경제일보] 정부와 민간이 금융·전력·통신·방위산업의 사이버 위협에 대응할 국산 인공지능(AI) 모델 개발에 들어갔다. 해외 범용 모델에 의존하기 어려운 국가 핵심 분야에 자체 통제할 수 있는 보안 AI를 공급하는 것이 목표다.

과학기술정보통신부는 22일 서울 소공동 롯데호텔에서 ‘사이버보안 특화 AI 모델 개발’ 착수 간담회를 열고 네이버클라우드 컨소시엄의 개발 계획을 공개했다. 컨소시엄에는 LG CNS·LG AI연구원·LG유플러스와 국내 보안기업, 서울대·KAIST 등 33개 산·학·연·공공기관이 참여한다. 협력의향서를 체결한 기관까지 합하면 42곳이다.

개발 전략은 공격과 방어를 함께 고도화하는 방식이다. 네이버클라우드는 하이퍼클로바X를 기반으로 침해 징후 분석과 사고 대응을 지원하는 방어형 모델을 맡는다. LG AI연구원은 엑사원을 토대로 소프트웨어 취약점을 찾아내고 모의 공격을 수행하는 공격형 모델을 개발한다. 두 모델이 제한된 시험환경에서 서로 공격하고 방어한 결과를 학습에 다시 활용한다.

컨소시엄은 필요한 전문가 신경망만 선택해 작동시키는 MoE(전문가 혼합) 구조의 700B급 모델 2종을 목표로 제시했다. 네이버클라우드의 엔비디아 B200 GPU 4000장과 정부가 지원하는 B200 256장, LG의 H200 256장 등 모두 4512장을 개발에 연계한다. 네이버클라우드 측은 사업 착수 전부터 자체 GPU를 활용해 사전학습을 진행해 왔다고 설명했다.

학습에는 22곳 이상이 제공하는 약 830TB 규모의 보안 데이터가 활용된다. 금융보안원과 한국수력원자력, LG유플러스 등의 침해 대응·운영 데이터를 결합해 국내 산업과 언어, 공격 유형에 맞춘다는 구상이다. 기관별 민감정보와 보안기밀이 포함될 수 있는 만큼 데이터 반출 범위와 비식별화, 접근권한 관리가 사업의 신뢰성을 가를 요소다.
 
성능 평가는 공격형 모델의 취약점 발굴 능력을 측정하는 사이버짐(CyberGym)과 방어형 모델의 침해사고 분석 역량을 평가하는 엑사이틴 벤치(ExCyTIn-Bench)를 활용한다. 내년 2월 중간평가에서 공격형은 중국 Z.ai의 GLM 5.3 대비 80% 이상을 목표로 한다. 방어형은 엑사이틴 벤치 ‘그룹4’ 진입을 추진한다. ‘그룹4’를 xAI의 ‘그록4’와 혼동해서는 안 된다.

완성된 모델은 2027년 하반기부터 전력·금융·통신 등 국가 기반시설과 반도체·방산·항공우주 분야에서 실증할 계획이다. 외부망 연결이 제한된 공공·금융·국방 분야에는 기관 내부에 설치하는 구축형으로 제공하고 상업적 활용이 가능한 오픈소스 공개도 추진한다.

공격형 모델은 방어 기술을 높이는 동시에 실제 해킹에 악용될 위험을 안고 있다. 컨소시엄은 AI가 격리된 시험공간을 벗어나지 못하도록 안전 체계를 적용할 방침이지만 모델 가중치와 학습데이터, 공격 기능을 어느 수준까지 공개할지는 구체화되지 않았다.

배경훈 부총리 겸 과기정통부 장관은 “프론티어 AI 역량 보유 여부가 국가의 미래를 좌우한다”며 AI가 통제를 벗어나지 않도록 하는 안전장치도 함께 확보해야 한다고 강조했다. 사업 성과는 모델 크기보다 실제 침해사고 대응시간을 얼마나 줄이고 새로운 취약점을 어느 정도 정확하게 찾아내는지로 판단해야 한다.