[현장] 생성형 AI가 바꾸는 보안 생태계…닷핵 2026, 자동화 보안 경쟁 진단

[경제일보] "완전 자동화된 보안이라는 꿈이 그 어느 때보다 실현 가능해 보이지만 그 꿈을 현실로 만드는 데는 아직 많은 노력이 필요하다"

8일 서울시 강남구 코엑스에서 진행된 '닷핵 컨퍼런스 2026'에서 타일러 나이스완더 티오리 연구원은 최근 AI의 발전과 AI 기반의 보안 프로그램에 대해 이렇게 말했다.

사단법인 프로젝트 플라즈마가 주최한 이번 행사는 '변화하는 위협 환경 속 미래 보안을 위한 새로운 규칙'을 주제로 지난 7일부터 8일까지 진행됐다. 컨퍼런스에는 국내외 보안 연구자와 화이트햇 해커, 기업 보안 담당자들이 참석해 AI·클라우드·통신 보안 등 최신 기술 흐름을 공유했다.

이날 티오리의 발표에 따르면 최근 생성형 AI가 빠르게 확산되면서 취약점 탐지와 보안 자동화 영역에서도 AI 활용이 본격화되고 있는 것으로 나타났다. LLM(거대 언어 모델) 기반 취약점 탐지 기술의 진화를 통해 기존 수동 분석 중심 보안 연구 방식에서 벗어나 AI 기반 자동화 기술이 보안 연구의 새로운 표준으로 자리 잡고 있는 것이다. 대형 코드베이스 분석, 취약점 탐지 자동화, 보안 테스트 효율화 등에서 LLM 활용이 빠르게 확산되고 있으며 보안 연구 방식 자체가 변화하고 있다는 분석이다.

타일러 나이스완더 연구원은 "최근 모델을 통해서는 최신 스마트폰의 커널 취약점이나 미인증 상태에서의 원격 코드 실행까지 찾아내고 있다"며 "이제는 LLM이 모든 컴퓨터 보안 문제를 해결할 수 있고 취약점 탐지에도 워낙 뛰어나다 보니 사실상 'CTF의 시대는 끝났다'고 말하는 사람들까지 생겨날 정도"라고 설명했다.

기조강연 이후 이어진 전문 세션에서도 AI 기반 보안 기술이 주요 주제로 다뤄졌다. LLM을 활용한 취약점 분석 자동화, AI 기반 레드팀 운영 전략, 클라우드 보안 대응 사례 등 실제 현장에서 활용 가능한 기술 발표가 이어졌다. 특히 이동통신 보안, 리눅스 커널 취약점 분석, 최신 암호학 연구 등 인프라부터 애플리케이션까지 다양한 영역의 발표가 진행됐다.
이번 닷핵 컨퍼런스는 기술 발표뿐 아니라 커뮤니티 중심 행사로도 확대됐다. 국내 주요 보안 커뮤니티들이 직접 참여해 해킹 체험 이벤트와 네트워킹 프로그램을 운영했으며 보안 솔루션 전시존과 커뮤니티 부스가 함께 구성돼 전문가들뿐만 아니라 여러 대학교에서 온 참가자들 간 교류도 진행됐다.

AI 확산과 함께 보안 위협이 빠르게 진화하는 가운데, 이번 닷핵 컨퍼런스는 AI 시대 보안 전략을 논의하는 자리로 자리 잡은 것으로 분석된다. 특히 LLM 기반 자동화 보안 기술이 주요 화두로 떠오르면서 향후 보안 산업 전반에서도 AI 활용 경쟁이 더욱 확대될 것으로 전망된다.

닷핵 컨퍼런스 관계자는 "이번 닷핵 2026은 단순한 기술 전달을 넘어 빠르게 변하고 있는 AI 환경에 맞춰 보안 전문가들이 서로의 경험을 공유하고 연대하는 중요한 자리였다"며 "참가자들이 얻은 새로운 인사이트들이 각자의 현장에서 더욱 안전한 사이버 세상을 만드는 밑거름이 되길 바란다"고 말했다.