오픈AI, '청소년용 챗GPT' 내놨다…AI가 숙제 대신해주지 못하게 만든 이유

[경제일보] 오픈AI가 청소년을 대상으로 한 별도의 챗GPT 이용 환경을 내놓는다. 단순히 유해 콘텐츠를 차단하는 수준을 넘어 AI가 숙제를 대신하거나 청소년의 정서적 의존을 키우지 않도록 서비스 설계 자체를 바꾸는 것이 핵심이다.

최근 청소년의 인공지능(AI) 이용이 빠르게 늘면서 학습 효율을 높이는 긍정적 효과와 함께 자해·정서적 의존·과도한 사용 등 부작용에 대한 우려가 커지는 가운데 오픈AI가 안전장치를 전면에 내세운 것이다.

오픈AI는 19일 ‘청소년을 위한 챗GPT(ChatGPT for Teens·청소년용 챗GPT)’를 출시한다고 밝혔다. 시스템이 이용자를 18세 미만으로 추정하거나 이용자가 자신의 나이를 13~17세라고 밝히면 청소년용 환경이 적용된다.

핵심 변화는 ‘답을 주는 AI’에서 ‘답을 찾도록 돕는 AI’로의 전환이다. 청소년이 수학 문제나 과제의 정답을 그대로 요구할 경우 챗GPT는 문제를 단계별로 풀도록 유도하는 학습 모드(Study Mode)를 활용하도록 안내한다. 개념을 설명하고 풀이 과정을 질문한 뒤 이용자의 이해도를 확인하거나 추가 연습 문제와 퀴즈를 만들어주는 방식이다.

과제를 건너뛰거나 답만 얻으려는 이용자를 대상으로 문제 풀이 과정에 참여하도록 유도하는 알림도 제공한다. 학습 내용을 시각화하고 복습할 수 있는 기능도 포함됐다.

‘학습 시간(Study Hours)’ 기능을 활용하면 청소년이나 부모가 정한 시간대에 학습 모드가 기본적으로 작동하도록 설정할 수 있다. 학습 모드는 교사와 학습과학·교육학 전문가들의 의견을 반영해 설계됐다.

안전 기능은 더욱 강하게 적용된다. 자해와 폭력, 위험 행동, 섭식장애, 노골적인 성적·폭력적 콘텐츠 등 청소년에게 부적절할 수 있는 영역에 대해 성인 이용자보다 강화된 보호 기준을 적용한다.

오픈AI가 특히 신경 쓰는 부분은 AI와 청소년 사이의 정서적 관계다. 청소년이 챗GPT를 실제 친구나 연인처럼 받아들이지 않도록 AI가 연애 감정을 표현하거나 이용자의 정서적 의존을 부추기는 행동을 제한한다. AI가 감정이나 의식을 가진 존재인 것처럼 표현하는 것도 막는다. 장시간 이용할 경우에는 휴식을 권하는 알림을 제공한다.

부모의 관리 기능도 강화됐다. 부모가 자녀의 계정을 연결하면 특정 시간대에 챗GPT를 사용할 수 없도록 이용 제한 시간(Quiet Hours·사용 제한 시간)을 설정할 수 있다. 음성·이미지 생성·메모리 등 일부 기능도 조정할 수 있다.

다만 부모가 자녀와 챗GPT 사이의 대화 내용을 직접 열람할 수 있도록 하지는 않았다. 대신 제한적인 고위험 상황이 감지될 경우 부모에게 안전 관련 알림을 보내는 방식이다.

이번 조치는 오픈AI가 청소년 AI 이용을 둘러싼 ‘안전과 편의성의 충돌’에 본격적으로 대응하기 시작했다는 점에서 의미가 있다.

AI는 이미 교육 현장에서 학생들의 검색과 작문, 번역, 코딩 등을 돕는 도구로 자리 잡았다. 반면 학교에서는 AI를 이용해 과제를 대신 작성하는 행위를 학업 부정행위로 규정하는 사례가 늘고 있다. AI를 무조건 막기도, 무제한 허용하기도 어려운 상황이다.

오픈AI가 학습 모드를 강화한 것도 이 같은 현실을 반영한 것으로 풀이된다. AI 사용 자체를 막는 대신 AI를 사용하되 학생의 사고 과정은 남겨두는 방식으로 방향을 잡은 것이다.

특히 주목할 대목은 이번 조치가 단순한 기능 개선을 넘어 AI 기업의 책임 문제와 맞물려 있다는 점이다. 최근 청소년의 AI 사용과 관련해 자해나 극단적 선택, 정서적 의존 등의 문제가 제기되면서 AI 기업의 서비스 설계와 안전 책임을 둘러싼 논란도 커지고 있다.

한편 오픈AI가 풀어야 할 문제는 ‘청소년에게 AI를 얼마나 제공할 것인가’가 아니라 ‘AI가 청소년에게 어떤 존재가 돼야 하는가’에 가까워지고 있다.

SNS(사회관계망서비스)가 청소년의 과도한 사용과 중독 문제로 규제 논쟁에 직면한 것처럼 AI 역시 새로운 안전 기준을 요구받을 가능성이 높다. 앞으로는 연령별 콘텐츠 제한을 넘어 학습 방식, 사용시간, 정서적 상호작용까지 AI 서비스의 설계 단계에서 관리하는 흐름이 확산될 전망이다.