[류청빛의 요즘IT] 맛집 리뷰도 쇼핑 후기도 AI가 쓴다…플랫폼 '진짜 사용자' 찾기 전쟁

[경제일보] 생성형 인공지능(AI) 확산으로 온라인 플랫폼들이 새로운 골칫거리를 안게 됐다. 쇼핑 후기와 맛집 리뷰, 블로그 글, 커뮤니티 댓글까지 AI가 자동 생성한 콘텐츠가 빠르게 늘어나면서 플랫폼 신뢰도가 흔들릴 수 있다는 우려가 커지고 있다. 특히 생성형 AI가 실제 사람과 유사한 문체와 감정 표현까지 구현하면서 기존 매크로 홍보글보다 탐지가 어려워지고 있어 플랫폼 업계 전반에 비상이 걸린 분위기다.

30일 업계에 따르면 최근 온라인 쇼핑몰과 배달앱, 숙박 플랫폼, 포털 커뮤니티 등에서는 생성형 AI를 활용한 후기·댓글 작성 사례가 급증하고 있는 것으로 알려졌다. 단순 반복 문장이 많았던 기존 광고성 리뷰와 달리 생성형 AI는 자연스러운 말투와 구체적인 상황 묘사까지 가능해 실제 이용자 경험과 구분하기 어려운 수준까지 발전하고 있는 것으로 알려졌다.

특히 AI는 짧은 시간 안에 대량의 콘텐츠를 생성할 수 있다는 점에서 플랫폼 운영 부담을 키우고 있다. 기존에는 사람이 직접 작성해야 했던 후기나 댓글을 AI가 자동 생성하면서 특정 상품이나 식당, 서비스에 대한 여론을 인위적으로 형성하는 사례가 늘어날 가능성이 커졌기 때문이다.

후기와 리뷰 기반 플랫폼일수록 영향은 더욱 크다. 온라인 쇼핑몰과 배달앱, 숙박 플랫폼은 이용자 후기와 평점이 구매 결정에 직접적인 영향을 미치는 구조다. 실제 이용 경험이 아닌 AI 생성 콘텐츠가 대량 유입될 경우 플랫폼 전체 신뢰도가 흔들릴 수 있다는 우려가 나오고 있다.

블로그와 커뮤니티 중심 플랫폼 역시 상황은 비슷하다. 검색 최적화(SEO)를 노린 AI 생성 글이 빠르게 늘어나면서 실제 경험 기반 정보와 광고성 콘텐츠를 구분하기 어려워지고 있다는 지적이다. 특히 맛집과 여행, 육아, IT 제품 리뷰 등 정보 탐색 수요가 높은 분야를 중심으로 AI 활용 사례가 확대되고 있는 것으로 알려졌다.

플랫폼 기업들은 대응 체계 마련에 나서고 있다. 단순 키워드 반복이나 문장 패턴 탐지 수준을 넘어 작성 이력과 활동 패턴, 계정 신뢰도 등을 종합적으로 분석하는 방식으로 AI 생성 콘텐츠 탐지 기술을 고도화하고 있는 것이다.

단순히 글 내용만 보는 것이 아니라 실제 이용자가 얼마나 정상적인 활동 패턴을 보였는지, 지속적으로 콘텐츠를 생산해왔는지 등을 종합적으로 판단 기준에 반영하고 있다. AI 검색 환경에서 창작자 신뢰도와 활동 패턴을 중요하게 보고 있는 것이다.

생성형 AI 확산은 플랫폼 산업의 핵심 가치였던 '사용자 경험 기반 정보'의 의미까지 흔들고 있다. 플랫폼들이 AI 생성 콘텐츠 범람 속에서 얼마나 신뢰를 유지할 수 있을지가 향후 경쟁력을 좌우할 핵심 요소로 떠오르고 있다.

김상범 네이버 검색 플랫폼 부문장은 "글 단위로 보는 것이 아니라 실제로 이 글을 쓴 사람이 네이버에서 얼마나 정상적인 패턴으로 활동을 했는가, 정상적인 패턴으로 글을 썼는가가 그 글을 선택하는 기준 중 하나가 되고 있다"며 네이버의 플랫폼 관리 전략에 대해 설명했다.