카카오, AI 뉴스 댓글 '세이프봇'으로 욕설 댓글 3분의 1 줄였다

[경제일보] 카카오가 14일 비속어를 선별하는 인공지능(AI) 기반 댓글 필터링 ‘세이프봇’ 운영 성과를 공개했다.

세이프봇은 욕설·비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 걸러준다. 비속어를 음표로 치환하고 불쾌감 유발 댓글을 노출되지 않도록 가린 뒤 이용자들의 신고 처리까지 자동으로 완료한다.

지난 2020년 12월 세이프봇 도입 후 욕설·비속어 댓글과 이용자의 신고한 욕설 댓글 비중이 줄어들었다. 구체적으로는 세이프봇 적용 후 욕설 및 비속어 댓글이 도입 전보다 3분의 1 수준(월 평균 건수 기준)으로 줄었다.

전체 댓글 중 이용자가 신고한 욕설 댓글 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 또한 이용자들의 신고로 삭제된 욕설 댓글도 2020년 하반기 대비 △2021년 73.6% △2022년 91.7% 감소했다.
 
카카오는 "기술을 통해 사회 문제를 해결하겠다"는 목표를 세우고 AI를 활용해 건강한 댓글 생태계 조성에 힘써왔다. 그 일환으로 지난 2017년 7월 업계 최초로 ‘욕설 음표 치환 기능’을 적용했다. 지난 2020년 12월에는 해당 기능을 더욱 고도화 한 세이프봇을 시범 적용한 뒤 본격 도입했다. 현재 포털 다음(Daum)과 카카오톡 뷰 탭 뉴스 댓글 서비스에 적용 중이다.

카카오는 AI 기술을 고도화 해 세이프봇의 성능을 한층 강화할 계획이다. 지난 8월 '증오 발언' 대응을 위한 ‘코딩북(Coding Book)’ 제작에 이어 증오 발언 판별 학습 데이터를 구축하고 내년 상반기에 이를 세이프봇에 적용할 예정이다.

김종한 카카오 다음사업개발실장은 “카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다"며 "앞으로도 이용자가 안전하고 쾌적하게 서비스를 용할 수 있도록 관련 기술의 고도화에 노력할 것”이라고 말했다.