IT

SK쉴더스 EQST, 데프콘 AI CTF 5위…AI 에이전트가 대신 뚫는 대회서 톱5

선재관 기자 2026-08-10 17:52:47
AI 빌리지 CTF 200여 팀 중 5위, 국내 참가팀 가운데 유일 모델별 최적화·공략 순서 조정으로 승부…사람은 설계만 다국적 연합팀으로 본선도 진출, 686팀 중 12팀에 포함
데프콘(DEFCON 34)에 참가한 SK쉴더스의 화이트해커그룹 이큐스트(EQST) 구성원들이 기념촬영을 하고 있다.[사진=SK쉴더스]

[경제일보] SK쉴더스는 화이트해커 그룹 EQST가 미국 라스베이거스에서 열린 데프콘 34의 AI 빌리지 CTF에서 200여개 팀 가운데 5위에 올랐다고 10일 밝혔다. 국내 참가팀 중 톱5에 든 것은 EQST가 유일하다.

이 대회는 참가자가 직접 취약점을 찾아 공격하는 기존 CTF와 방식이 다르다. 주어진 AI 모델을 바탕으로 침투테스트를 수행하는 AI 에이전트를 만들고, 그 에이전트가 스스로 문제를 분석해 공격 방법을 고른 뒤 플래그 획득을 시도한다. 사람이 겨루는 것은 에이전트의 구조와 프롬프트, 문제 해결 전략의 설계 능력이다.

EQST는 문제 유형별로 AI 모델을 최적화하고 에이전트의 행동 방식을 조정했다. 배점과 난이도를 분석해 어떤 문제를 먼저 공략할지 순서를 정하는 방식도 함께 적용했다.

이런 대회가 별도로 열린 것은 올해 데프콘의 성격 변화와 맞물린다. 데프콘 34는 AI와 자동차, 암호화폐 등을 주제로 38개 빌리지를 운영했고, 메인 CTF도 새 운영진인 베네볼런트 뷰로 오브 버즈(BBB)가 맡으면서 본선에서 AI 사용 제한을 두지 않았다. AI가 도구를 넘어 공격 주체로 시험대에 오른 셈이다.

EQST는 메인 CTF 본선에도 진출했다. 네이버클라우드와 루비야랩, 핀란드 H-T8, 일본 츠쿠바대 프로그래밍 서클 TPC와 함께 꾸린 다국적 연합팀 '더 서울 사우나 쇼구네이트' 소속이다. 이 팀은 지난달 21일 경기 성남 네이버 사옥에서 출정식을 열었고, 예선 7위로 본선에 올라 최종 11위를 기록했다. 올해 예선에는 686개 팀이 참가해 12개 팀만 라스베이거스행 티켓을 받았다.

본선은 공격·방어(A&D)와 킹 오브 더 힐(KOTH)을 결합한 방식으로 치러졌다. 상대 시스템의 취약점을 찾아 공격하는 동시에 자기 시스템을 방어하고 서비스를 정상 상태로 유지해야 한다. 취약점 분석과 공격 코드 개발, 패치와 방어 전략 수립을 동시에 굴려야 점수가 쌓이는 구조다. 최종 우승은 다국적 연합팀 블루워터가 차지했고, 한국인만으로 구성된 0x4b52가 2위, 슈퍼다이스코드러버스가 3위, 콜드퓨전이 4위에 올랐다.

EQST는 약 200명 규모로 취약점 연구와 침투 테스트, 악성코드 분석, AI 보안 연구를 맡고 있다. 최근에는 △AI 레드팀 해킹대회 '저지먼트 데이' 우승 △드림핵 해킹방어대회 2026 우승 △R3CTF 2026 2위 △미드나이트 선 CTF 2026 3위 등의 성적을 냈다. 이번 대회에서 확인한 AI 에이전트의 공격 전략과 문제 해결 사례는 AI 서비스·모델의 취약점 연구와 AI 레드팀 기술 고도화에 활용할 계획이다.

김태형 SK쉴더스 EQST사업그룹장은 "전 세계 200여 개 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 EQST가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과"라며 "앞으로도 AI 기술을 활용한 새로운 공격과 보안 위협에 선제적으로 대응할 수 있도록 AI 취약점과 레드팀 연구를 확대하고, 글로벌 수준의 AI 보안 경쟁력을 지속적으로 강화해 나가겠다"고 말했다.