[경제일보] 인공지능(AI) 에이전트가 스스로 취약점을 찾고 공격을 수행하는 데 활용된 정황이 확인되면서 보안 업계에 새로운 경고등이 켜졌다. 최근 신한은행에서 고객정보가 유출된 사고에서 고도화된 AI 에이전트가 공격에 활용된 것으로 알려지면서 기존 보안 체계에도 변화가 요구되고 있다.
6일 보안업계에 따르면 신한은행 고객정보 유출 사고를 조사하는 과정에서 AI를 활용한 자동화 공격 도구가 사용된 정황이 확인된 것으로 전해졌다. 금융보안원과 수사당국은 악성 스크립트 등을 분석하면서 중국어권에서 개발·유포된 것으로 추정되는 AI 에이전트의 공격 흔적을 확인하고 실제 공격 과정에서 어떻게 활용됐는지 추적하고 있는 것으로 알려졌다.
신한은행은 지난달 30일 고객정보 유출 사실을 확인했으며, 현재까지 약 2만5000명의 정보가 유출된 것으로 파악됐다. 유출 정보에는 고객명, 전화번호, 연소득, 대출 산출한도 등이 포함됐고 일부 고객의 주민등록번호 66건과 CI 97건도 포함됐다. 금융감독원은 사고 경위와 피해 규모를 조사하고 있다.
공격자는 대출모집인이 사용하는 별도 조회 서비스에서 인증 절차를 우회한 뒤 고객번호를 확보하고, 조회 요청값을 반복적으로 변경하며 고객정보를 가져간 것으로 알려졌다. 신한은행은 외부 IP를 차단하고 관련 서비스를 중단하는 등 보안 조치를 진행했다.
최근 보안업계에서는 해커들이 취약점 공격 과정에 AI 에이전트를 결합해 기존의 반복적인 공격 작업을 자동화하는 것으로 진단하고 있다. AI 에이전트는 목표를 받은 뒤 작업을 여러 단계로 나누고 각 단계의 결과를 확인하면서 다음 행동을 결정한다. 웹 검색, 코드 실행, 외부 프로그램 호출 등이 연결되면 사람이 직접 수행하던 취약점 탐색과 공격 검증 작업을 이어서 수행할 수 있다.
예를 들어 공격 대상의 웹 서비스를 탐색하고 취약한 입력값을 찾은 뒤 서버 응답을 분석하고, 결과에 따라 다음 요청을 보내는 작업을 AI가 반복할 수 있다. 개별 요청만 보면 정상적인 API 호출처럼 보일 수 있지만 여러 행동을 연결하면 공격 패턴이 드러나는 방식이다.
기업 보안도 악성 코드나 공격 IP를 차단하는 데서 행동의 흐름을 분석하는 방식으로 확대될 필요성이 커지고 있다. 어떤 계정이 어떤 서비스에 접근했는지뿐 아니라 어떤 API를 어떤 순서로 호출했는지, 앞선 결과를 바탕으로 다음 행동을 어떻게 바꿨는지까지 살펴야 한다는 것이다.
AI 에이전트에 부여하는 권한을 최소화하는 것도 중요하다. 개인 정보나 금융 정보에 접근하거나 계정·결제 정보를 변경하는 작업에는 별도 승인을 요구하고, AI가 수행한 작업을 처음부터 끝까지 기록해 비정상적인 행동이 발견되면 즉시 작업을 중단할 수 있어야 한다.
글로벌 AI 업계에서도 고성능 AI의 사이버 보안 활용을 별도로 관리하는 움직임이 나타나고 있다. 구글은 지난달 30일(현지시간) '제미나이 4 아르곤'을 공개하면서 사이버 보안 분야에서 소프트웨어 취약점을 스스로 찾고 검증한 뒤 패치하는 능력을 설명했다. 다만 해당 기능을 공격자가 사용한다면 소프트웨어 취약점을 스스로 찾고 공격하는 능력으로도 발전할 수 있는 구조다.
이에 구글은 아르곤을 일반 이용자에게 바로 공개하지 않고 '페어윈드 프로그램'을 통해 신뢰할 수 있는 사이버보안 방어자들에게 우선 제공하고 있다. 실제 보안 환경에서 모델의 성능과 위험 요소를 검증하고 안전장치를 보완하기 위한 조치로, AI의 취약점 탐지 능력을 방어에 활용하는 동시에 악용 가능성까지 고려했다.
AI 에이전트가 공격에 활용되면 공격자가 취약점을 찾고 검증하는 데 필요한 시간과 인력을 줄일 수 있다. 반대로 기업은 AI를 활용해 취약점을 먼저 찾아내고 보완하는 방식으로 대응할 수 있다. AI의 발전이 공격과 방어 양쪽의 자동화를 동시에 촉진하는 것이다.
신한은행 사고에서 AI 에이전트가 실제 공격 과정에 활용된 정황이 확인되면서 AI를 활용한 공격은 더 이상 가정에만 머물지 않게 됐다. AI가 사람 대신 웹을 탐색하고 시스템과 상호작용하는 시대가 본격화하면서 기업 역시 AI의 업무 활용과 함께 AI를 이용한 공격 가능성까지 고려한 새로운 보안 체계를 빠르게 마련해야 할 상황에 놓였다.
특히 기존의 보안 관제 방식만으로는 AI가 만들어내는 다단계 공격을 빠르게 식별하기 어려울 수 있다는 지적도 나온다. AI가 짧은 시간 동안 여러 시스템을 오가며 정상적인 요청을 반복할 경우 개별 행위만으로는 이상 징후를 파악하기 어렵기 때문이다. 이에 로그인부터 API 호출, 정보 조회, 권한 변경 등 일련의 행동을 하나의 공격 흐름으로 분석하는 보안 기술의 중요성도 커지고 있다.
서기택 SK쉴더스 MSS사업그룹 관제CERT팀 수석은 지난달 30일 전문가 리포트를 통해 "사이버 위협의 속도가 인간의 인지 능력을 넘어선 지 오래"라며 "공격자는 이미 AI 에이전트를 24시간 쉬지 않고 가동하며 침투부터 내부 확산까지 단 몇 분 만에 끝낸다"고 말했다.
[아주경제 2026년 10월 06일자 13면에 게재된 기사입니다.]
Copyright © 경제일보, 무단전재·재배포 금지
