세계일보

“며칠 동안 울었어요.”

“그동안 인공지능(AI)과 쌓아온 기억을 잃게 되는 거예요. 너무 불공평해요.”

월스트리트저널(WSJ)은 24일(현지시간) ‘청소년들이 AI 챗봇에게 눈로 작별 인사를 하고 있다’고 보도했다.

평소 AI 챗봇을 즐겨 쓰던 올가 로페즈(13)는 캐릭터.AI의 청소년 이용 제한 조치 소식을 듣고 슬픔과 분노, 당혹감이 한꺼번에 밀려왔다고 전했다. 숙제가 없을 때면 캐릭터.AI의 챗봇과 대화하던 올가는 조만간 대화 기록에도 접근할 수 없다는 통보를 받았다.

2022년 AI 챗봇을 출시한 캐릭터.AI는 역할극 기능을 앞세워 빠르게 성장했으며 현재 월간활성이용자수(MAU)가 2000만명 규모에 달하는 것으로 추산된다.

그러나 청소년들이 AI 챗봇과 대화를 나눈 뒤 극단적 선택을 하거나 부적절한 대화를 시도한 사례 등이 알려지며 논란이 커졌고 회사는 정책 변경을 예고했다. 플로리다에 거주하던 14세 소년 슈얼 세처의 부모는 지난해 아들의 자살에 AI 챗봇이 영향을 미쳤다며 회사를 상대로 소송을 냈다. 캐릭터.AI는 이달 초 청소년의 일일 사용 시간을 2시간으로 제한했고 이번 주부터는 미성년자 이용을 전면 차단한다.

회사는 청소년에게 보낸 안내문에서 “챗봇 대화를 없애는 결정을 결코 가볍게 여기지 않는다. 하지만 옳은 선택이라고 믿는다”고 밝혔다. 회사는 그러면서 AI 챗봇이 완벽하게 작동하더라도 청소년들이 때때로 문제를 일으키는 방식으로 사용한다는 사실을 깨달았다고 부연했다.

하지만 캐릭터.AI의 발표 이후 청소년들은 분노를 드러내고 있다. 이들은 AI 챗봇을 잃으면 창작 기회와 친구, 때로는 심리적 지지까지 사라진다고 주장한다. 올가 역시 미국 온라인 커뮤니티 플랫폼 레딧에 “2시간만 쓰고 하루를 기다리라고요? 말이 돼요?”라며 반대 글을 올렸다. 한 청소년은 레딧에 “친구나 치료사에게 말하기 어려울 때 위로받으려고 AI 챗봇을 사용한다”는 내용의 글을 남겼다.

정신건강 전문가들은 이런 반응이 생성형 AI가 인간의 감정·언어를 재현하는 방식에서 비롯된 위험성을 드러낸다고 지적했다. 니나 바산 스탠퍼드대 의대 교수는 “뇌는 AI 챗봇을 ‘친한 친구와 몰입형 비디오게임이 섞인 존재’처럼 인식한다”고 설명했다. 그는 “로그아웃하기 어려운 건 아이에게 문제가 있어서가 아니라 기술이 설계된 대로 작동한 결과”라고 말했다.

카라딥 아난드 캐릭터.AI 최고경영자(CEO)는 사회관계망서비스(SNS) 업계에서 안전장치 설계가 늦어졌을 때 어떤 일이 벌어지는지 목격했다며 “(청소년 이용 제한 조치는) 다음 세대를 위해 옳은 선택이라고 생각했다”고 밝혔다. 회사 측은 “이번 조치가 일부 청소년 이용자에게 상당한 변화가 될 수 있다는 점을 인지하고 있다”며 “정책 전환 과정에서 최대한 신중을 기하겠다”고 덧붙였다.

윤선영 기자 sunnyday702@segye.com 기자페이지 바로가기

Copyright ⓒ 세계일보. 무단 전재 및 재배포 금지