'19금 챗GPT' 논란에…올트먼 “도덕경찰 아냐”

[이데일리 김윤지 기자] “우리는 세상이 선출한 도덕 경찰이 아니다.”

(사진=AFP)

생성형 인공지능(AI) 챗GPT의 성적 대화 허용으로 논란이 불거지자 15일(현지시간) 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)가 소셜미디어(SNS) 엑스(X, 구 트위터)를 통해 이같은 입장을 내놨다.

그는 이 같은 챗GPT의 정책 변경을 R등급 영화(청소년 관람불가 영화)에 비유했다. 그는 “사회가 다른 적절한 경계를 구분하는 것과 마찬가지로, 우리는 여기에서도 비슷한 일을 하고 싶다”며 “우리는 성인 사용자를 성인처럼 대하는 원칙을 매우 중요하게 생각한다”고 말했다. 그는 “AI가 사람들의 삶에서 점점 더 중요해짐에 따라, 사람들이 원하는 방식으로 AI를 사용할 수 있도록 많은 자유를 제공하는 것은 저희 사명의 중요한 부분”이라고 설명했다.

그러면서 그는 “타인에게 해를 끼치는 행위는 여전히 허용하지 않을 것이며, 정신 건강 위기를 겪고 있는 사용자와 그렇지 않은 사용자를 매우 다르게 대할 것”이라고 단서를 달았다.

미 경제매체 CNBC는 올트먼 CEO의 SNS 글이 그의 과거 발언과 상충된다고 지적했다. 올트먼 CEO는 올해 9월 한 팟캐스트에서 “챗GPT에 사용자의 참여도를 높일 수 있는 성적인 특정 기능들을 도입하지 않은 것이 자랑스럽다”며 “단기적으로 성장을 촉진하거나 수익을 늘릴 수 있는 많은 일들이 있지만 그것들은 우리의 장기적 목표와는 매우 어긋난 것들”이라고 말했다.

전날 오픈AI는 오는 12월부터 성인 이용자를 대상으로 챗GPT를 통한 성적인 대화와 콘텐츠 생성을 공식 허용하겠다고 밝혔다. AI 챗봇 역사상 사실상 세계 최초의 ‘성적 대화 허용 AI’가 탄생하게 된 것이다. AI 규제 강화 기조 속에서 업계를 선도하는 오픈AI가 이 같은 방침을 내놓자 윤리 논란과 법적 책임 문제를 둘러싼 논란이 거세졌다.

인권보호단체인 미국 국립성착취방지센터(NCOSE)의 헤일리 맥나마라 전무이사는 이날 성명을 통해 “성적인 AI 챗봇은 본질적으로 위험하며 불분명한 업계 안전 기준 속에서 ‘인공적 친밀감’이 실제 정신 건강에 해를 끼칠 수 있다”며 오픈AI가 이 같은 결정을 철회할 것을 촉구했다.