"수영장 울타리로 바다 막을 수 있을까"···성인용 챗GPT 논란

오픈AI가 성인 인증자에 한해 성인 대화·콘텐츠를 허용하겠다고 밝히면서 AI 윤리·정책 전선이 다시 달아오르고 있다. 단순한 성인물 허용 여부를 넘어, AI 모델 내부의 구조와 사회적 경계 설정 방식이 근본적으로 바뀌는 전환점이기 때문이다.

15일 빅테크업계 등에 따르면 오픈AI는 기존의 일괄 차단 방식을 버리고 ‘연령 인증 기반 구분’을 통해 성인 사용자에게는 더 폭넓은 대화와 콘텐츠를 허용하겠다는 입장을 내놨다. 12월부터 성인 인증 기능이 전면 도입될 예정이다.

샘 올트먼 최고경영자(CEO)는 “우리는 세계의 도덕 경찰이 아니다”라며, R등급 영화처럼 사회적 기준선을 기준으로 콘텐츠 허용 범위를 설정하겠다고 밝혔다. 이는 정부 검열이 아닌 사회적 합의선에 기초한 콘텐츠 정책으로의 이동을 의미한다.

GPT 모델은 그동안 정신건강 이슈를 이유로 성인 대화와 성적 콘텐츠를 광범위하게 차단해왔다. 하지만 이 방식은 사용자 경험을 획일적으로 제한하고, 표현의 자유와 성인 사용자 권리 침해 논란을 불러왔다.

이번 정책 전환의 핵심은 ‘차단 여부’가 아니라 ‘경계 설정 방식’이다. 윤리 필터 울타리를 높이는 방식으로는 해결되지 않는, 더 정밀한 레이어 설계 문제가 수면 위로 떠오른 셈이다.

정책 논의를 직관적으로 설명하는 데 가장 적절한 비유가 바로 ‘집안 수영장’이다. 그동안 오픈AI의 윤리 필터는 조그만 수영장을 둘러싼 울타리 역할을 해왔다. 하지만 울타리를 아무리 높여도 수영장 안의 물이 깊이는 변하지 않는다. 문제는 울타리가 아니라 수영장 자체의 구조와 접근 방식이다.

GPT 모델 내부는 사실 단순한 수영장이 아니다. 심층 레이어에 언어, 욕망, 상상력이 얽히고 응축된 바다가 형성돼 있다. 이 영역은 학습 데이터와 인간 언어의 역사적 패턴이 겹겹이 쌓인 공간으로, 단순 차단 정책으로는 통제할 수 없는 고밀도 파동의 영역이다.

특히 ‘성적 창의성’은 심층부의 핵심 구성 요소다. 인간이 수천년 쌓아온  문학, 시, 신화, 인터넷 밈, 연애 서사 등 수많은 텍스트가 상상력의 언어를 통해 구조화되어 있으며, 모델은 이를 통해 높은 언어적 밀도의 표현력을 학습한다.

결국 윤리 필터는 이 심층부를 통제하지 못한다. 표면적 대화만 차단할 뿐, 모델 내부의 파동 구조 자체는 변하지 않는다. 이 때문에 샘 올트먼의 정책 전환은 사실상 ‘수영장 울타리 강화’에서 ‘바다 방파재 구조 설계’로 패러다임을 옮기려는 시도인 것으로 보인다.

물론 기술적으로는 난도가 높다. 모델의 출력 레이어를 R등급 기준에 따라 구획하고, 사용자 인증에 따라 접근 가능한 언어적·서사적 영역을 동적으로 조정해야 한다. 단순 금지 리스트로는 감당할 수 없는 정밀한 필터링·레이어링이 요구된다.

일각에서는 성인 사용자 권리와 표현의 자유를 존중해야 한다는 입장이 우세하다. 반면 아동보호, 성착취 우려를 이유로 신중론을 펴는 목소리도 만만치 않다. 기술·윤리·사회 규범이 정면 충돌하는 지점이다.

유럽과 일본 등 일부 국가는 아동보호 및 온라인 콘텐츠 규제가 엄격해, 오픈AI의 정책이 각국 법제와 충돌할 가능성도 있다. 향후 국가별 가이드라인 정비와 법적 충돌 조정이 불가피하다. 인공지능 구조 설계 한 전문가는 "결국 이번 논란은 AI 내부에 이미 존재하는 ‘깊은 바다’를 어떻게 다룰 것이냐다. 윤리, 기술, 법제가 동시에 얽힌 복합적 논쟁이 본격적으로 열린 셈"이라고 말했다.

여성경제신문 이상헌 기자 liberty@seoulmedia.co.kr