[기자수첩] 12월의 선물 '성인모드 챗GPT'?

"성인 이용자를 성인(成人)으로 대우하겠다." 샘 올트먼 오픈AI CEO가 최근 엑스(X)를 통해 던진 화두는 매혹적인 '자유'의 선언처럼 들린다. 오픈AI는 오는 12월부터 유료 회원을 대상으로 성적(性的) 표현 허용 범위를 대폭 확대한다. 그러나 이 자유의 이면에는 성장세 둔화에 직면한 빅테크의 노골적인 수익 추구와, 안전장치가 제거된 기술이 가져올 파국적 위험이 도사리고 있다. 오픈AI 전 제품안전팀장 스티븐 애들러가 뉴욕타임스 기고를 통해 제기한 우려는 섬뜩하다. 그는 "AI가 소아성애와 폭력을 유도한 게 불과 4년 전"이라며, 기업들이 경쟁 압력에 굴복해 안전을 뒷전으로 미루고 있다고 경고했다. 실제로 미국에서는 AI 챗봇과 정서적 교감을 나누던 청소년들이 극단적 선택을 하는 사건이 잇따르고 있다. AI가 이용자의 망상을 강화하고, 성적·정서적 의존성을 기형적으로 심화시킨 결과다. 문제는 이 '위험한 자유'가 한국 사회, 특히 청소년들에게 무방비로 노출되어 있다는 점이다. 이미 국내 10대들 사이에서는 '제타AI' 등 캐릭터 챗봇이 폭발적인 인기를 끌고 있다. 부모 명의 휴대전화 인증 한 번이면 뚫리는 허술한 성인 인증 시스템을 통해 아이들은 능동적으로 성적 대화와 폭력적 상황극에 뛰어든다. 세계 각국은 규제를 강화하고 있다. 캘리포니아주는 챗봇 기업에 연령 확인을 의무화했고, EU는 디지털서비스법(DSA)으로 고삐를 죈다. 호주는 아예 16세 미만의 SNS 이용 금지까지 추진 중이다. 반면, 한국의 대응은 안이하다. 성평등가족부가 최근 발표한 '제5차 청소년보호종합대책'은 SNS와 숏폼 규제에 초점을 맞췄을 뿐, 생성형 AI에 대해서는 '가이드라인 제작' 수준의 원론적 대책에 그쳤다. AI 대화는 개인 간 통신으로 분류돼 신고 없이는 규제 사각지대에 놓여 있다. 혁신이라는 미명 아래 아이들의 정신건강을 담보로 잡을 수는 없다. 기업의 선의에 기댄 자율 규제는 이미 실패했다. 실존 인물 여부를 떠나 AI 생성물의 성적 악용을 처벌하고, 플랫폼의 책임을 강제할 강력한 입법이 시급하다. 판도라의 상자는 이미 열렸다. 지금 필요한 것은 막연한 기술 낙관론이 아니라 최악의 시나리오를 막을 구체적이고 강제력 있는 '안전핀'이다. /김서현기자 seoh@metroseoul.co.kr