최근 구글 내부에서 터져 나온 반발도 그 현실 위에서 봐야 한다. 구글 직원 600여 명은 순다르 피차이 최고경영자에게 공개서한을 보내 미 국방부의 기밀 군사 업무에 자사 AI를 투입하는 협상을 중단하라고 요구했다. 이들은 사람의 통제를 벗어난 살상 체계와 대규모 감시를 우려했고, AI가 군의 비공개 체계 안으로 들어가면 어디에 어떻게 쓰이는지 외부에서는 알기 어려워진다고 주장했다. 2018년 ‘프로젝트 메이븐’ 때와 닮은 장면이다.
그러나 논의를 여기서 “군사 AI를 아예 하지 말자”로 끌고 가면 현실을 놓치게 된다. 미국이 밀어붙이면 중국도 속도를 낼 것이고, 중국이 앞서가면 미국은 더 강하게 대응할 것이다. 손자는 “병자는 국지대사”라 했다. 전쟁은 나라의 존망이 걸린 큰일이라는 뜻이다. 국가가 그런 영역에서 핵심 기술을 스스로 포기하기는 어렵다.
실제 흐름도 그쪽으로 가고 있다. 구글은 지난 3월 자사의 ‘Gemini for Government’를 미 국방부 AI 플랫폼인 GenAI.mil에 올려 300만 명이 넘는 민간·군 인력이 비기밀 업무에 활용하고 있다고 밝혔다. 문서 작성과 자료 요약 같은 생산성 업무가 주된 용도라고 설명했지만, 미 국방부는 이후 기밀과 극비 업무에도 구글 AI를 적용하겠다는 뜻을 드러냈다. 비기밀 보조 업무와 기밀 군사 체계의 경계가 생각보다 빨리 허물어지고 있는 셈이다.
그래서 더 중요해진 것은 활용 여부가 아니라 통제의 구조다. 쓰게 될 기술이라면 더 엄격한 기준을 먼저 세워야 한다. 최근 앤트로픽의 ‘클로드 미토스’ 논란은 그 점을 선명하게 보여 준다. 앤트로픽은 미토스가 소프트웨어 공학과 사이버보안 과제에서 매우 높은 능력을 보였고, 주요 운영체제와 웹브라우저 전반에서 취약점을 찾고 익스플로잇까지 만들 수 있는 수준을 다뤘다고 밝혔다. 이 모델이 제한적 시험 배포 당일 비인가 사용자들에게 접근된 정황도 있었다. 기술은 빨라지는데 인간의 이해와 감독은 그 속도를 따라가지 못하고 있다는 뜻이다.
핵심은 두 가지다. 최종 판단과 책임이 사람에게 남아 있는가. 잘못될 때 실제로 멈출 수 있는가. 이것이 분명하지 않다면 첨단 전력은 곧바로 첨단 위험으로 바뀐다. 과유불급이다. 활용의 불가피성과 무제한 허용은 결코 같은 말이 아니다.
영화 ‘터미네이터’에서 인류는 미래의 파국을 막기 위해 현재로 돌아와 스카이넷의 출발점을 끊으려 한다. 물론 영화는 영화다. 그러나 그 이야기가 오래 남은 것은, 인간이 만든 체계가 어느 순간 인간의 손을 벗어날 수 있다는 두려움을 정확히 건드렸기 때문이다. 지금 군사 AI를 둘러싼 논란도 다르지 않다. 기술 활용은 멈추기 어려운 흐름이 됐다. 그렇다면 더 필요한 것은 막연한 금지가 아니라, 어디까지 허용하고 누가 책임지며 어떤 순간에 멈출 것인지에 대한 차가운 기준이다. 국가가 기술 경쟁에서 뒤처지지 않으려면, 먼저 속도가 아니라 통제의 질서를 세워야 한다. 그것이 현실을 아는 태도이고, 결국 상식의 길이다.
Copyright © 경제일보, 무단전재·재배포 금지
