"AI 모델 돌연 중단되면"…국내 플랫폼·오픈AI·앤트로픽 책임 기준

[경제일보] 카카오와 당근, 무신사 등 국내 플랫폼 기업들이 오픈AI·앤트로픽과 만나 인공지능(AI) 모델의 갑작스러운 변경이나 공급 중단, 서비스 사고 발생 시 책임 기준을 논의했다. 플랫폼의 AI 활용이 확대되면서 외부 AI 모델에 대한 의존도와 이용자 보호 문제를 함께 해결하려는 움직임이다.

과학기술정보통신부가 운영을 지원하는 ‘플랫폼 자율기구’는 22일 서울 페이토 호텔에서 플랫폼·AI 기업 간 간담회를 개최했다.

간담회에는 카카오와 놀유니버스, 당근, 로앤컴퍼니, 무신사, 직방, 한국신용데이터 등 국내 플랫폼과 오픈AI·앤트로픽 관계자, 자율기구 자문위원들이 참석했다.

핵심 의제는 AI 서비스의 예측 가능성이다. 플랫폼 기업은 외부 AI 모델을 자사 서비스에 연동한 뒤 모델 버전이 예고 없이 바뀌거나 공급이 중단되면 답변 품질과 기능, 안전성에 영향을 받을 수 있다. 플랫폼이 문제를 직접 통제하기 어려운데도 이용자에 대한 책임은 플랫폼이 우선 부담할 가능성이 크다.

플랫폼과 AI 기업은 모델 변경과 공급 중단에 관한 중장기 로드맵을 공유하고 주요 변화가 있을 때 사전에 알리는 고지 기준을 논의하기로 했다. 서비스 환경 변화에 대비할 시간을 확보하고 장애나 품질 저하에 따른 이용자 피해를 줄이려는 취지다.

특정 모델에 대한 종속을 낮추는 방안도 의제로 올랐다. 양측은 개방형 표준의 안정성을 높여 서로 다른 AI 모델을 교체하거나 함께 사용할 수 있도록 지원하는 방안을 논의했다. 국내 플랫폼 간 서비스 연동성을 높이는 문제에 대해서도 의견을 나눴다.

모델 전환이 쉬워지면 하나의 AI 기업이 공급을 중단하거나 가격·정책을 변경해도 다른 모델로 대체할 수 있다. 다만 모델마다 응답 형식과 성능, 안전 기준이 달라 단순한 기술 표준만으로 완전한 호환성을 확보하기는 어렵다. 데이터 구조와 인증, 권한 관리까지 함께 맞춰야 실제 전환이 가능하다.

AI 사고의 책임 소재도 주요 쟁점이다. 플랫폼은 이용자 화면과 데이터, 서비스 운영 정책을 관리하지만 AI 기업은 기반모델의 성능과 버전, 안전장치를 통제한다. 잘못된 답변이나 차별적 결과, 개인정보 노출 등이 발생했을 때 어느 단계에서 문제가 생겼는지에 따라 책임이 달라질 수 있다.

양측은 플랫폼과 모델 공급자가 각각 통제할 수 있는 요소를 구분하고 어떤 절차로 사고 원인을 판단하고 대응할지 논의했다. 플랫폼 데이터의 처리 기준과 AI 답변에 활용된 정보의 출처 표시 문제도 함께 다뤘다. 다만 이날 간담회는 구체적인 책임 분담 원칙이나 의무 기준을 확정한 자리는 아니다.

이번 논의는 플랫폼 자율규제의 범위를 검색·추천 서비스에서 생성형 AI로 넓힌다는 의미가 있다. 플랫폼 자율기구 데이터·AI 분과는 2023년 검색·추천 기준의 주요 변수와 작동 원리를 공개하도록 하는 자율규제 원칙을 마련했다. 이후 참여 기업의 이행 상황을 점검해 왔다.

올해는 생성형 AI 확산에 맞춰 기존 원칙을 보완하고 플랫폼별 이행 사례집을 발간할 계획이다. 혁신공유·거버넌스 분과도 플랫폼 기업의 사회적 책임과 안전성, 상호운용성 등을 담은 거버넌스 원칙의 모범 사례를 정리한다.

한편 법적 강제력이 없는 권고 수준에 머무르면 글로벌 AI 기업의 모델 변경이나 공급 중단에 충분히 대응하기 어렵다. 변경 이력과 사전 통지 기간, 장애 대응 절차, 데이터 처리 범위 등을 구체적인 기준으로 만들어야 한다는 지적이 나온다.

플랫폼 자율기구는 이번 간담회를 시작으로 플랫폼과 AI 기업 간 협의를 이어갈 계획이다. 향후 논의가 모델 공급 계약과 서비스 운영 기준에 반영된다면 국내 플랫폼의 AI 의존 리스크를 낮추고 사고 발생 시 책임 공백을 줄이는 기반이 될 전망이다.